COPU会议纪要2024.03.19

3月19日陆主席主持COPU例会。

陆主席说，最近听到一些反映，谈谈国内行业内企业间出现的一种“竞争”现象（也有人说这是不讲协同配合的一种“狙击战”式的恶性竞争）。

面对这种情况怎么办？作为COPU，①是要把情况搞清楚，②是COPU不是来当法官、裁判的（我们可进行初步协调，解决了还是要矛盾上交）。

华为与腾讯间的问题：叫“微信不适配，鸿蒙就凉”。

鸿蒙星河版亮相，选择200个原生鸿蒙生态应用，里面没有与微信配套的国民软件（国内已有11亿人用微信），当然华为星河版要到四季度才开始商用，两家似应很好研究如何协同配套。

今天小米和华为正在打一场“硬仗”

小米宣布2月22日晚举行产品发布会，正式发布他们的旗舰：小米14 ultra，华为提前宣布将在同日下午发布全新机型Pocket2,有人说这是一场“狙击战”，也有人说这是正常的竞争。

以前华为与OPPO，发布Mate60与小折叠手机Find V3 Flip，也有类似情况，导致OPPO产品瞬间烟飞灰灭！

刘澎、梁志辉主导的团队要深入下去抓这些情况，并要按分工抓建设国内外关系网（目标、实现），抓开源发展蓝皮书，抓缺芯少魂短板情况，抓合规，当然也可了解由陈钟、章文嵩主导的基于开源的信息技术（包括人工智能）的科研开发情况，但在没有把自留田种好的情况下不要越界，不要搞自由主义。

学习人工智能大师辛顿演讲：

“数字智能会取代生物智能吗？”的体会

（十二个观点）

陆首群 2024.03.15

被世人尊称为“人工智能之父”的杰弗里·辛顿（Geoffrey Hinton）于2024年2月19日在牛津大学做了一个公开演讲，从哲学角度对人工智能的未来走向，提出了严肃而重要的思考，下面就化这次演讲中传达的一些主要观点谈学习体会：

一、支持符号主义、连接主义两大学派 （支持符号主义、连接主义两大学派）

上世纪六十年代及以后， 人工智能两大学派：符号主义与连接主义进行激烈辩论，国内外一些AI专家认为：两大学派虽然各自做出了一些成绩，但他们均具有片面性，依靠他们单打独斗很难走出一条人工智能的发展路径。实际上他们对两在学派持否定态度。

辛顿教授提出数字智能和生物智能两大概念，发展数字智能采用逻辑发展范式，即符号主义学派（或符号主义方法），发展生物智能采用生物发展范式，即连接主义学派（辛顿起名神经网络方法）。所谓逻辑发展范式，认为智能的本质是符号和规则，而逻辑发展范式是基于规则的推理过程。所谓生物发展范式，认为智能的关键是神经元之间的强度，而生物发展范式是将智能根源于学习来调整神经网络中的连接强度。辛顿虽然也对两大学派都提出评论和改进意见，但对它们的发展是肯定的。

COPU一直支持分属两大学派的神经拟态网络（类脑计算系统）、脑机接口系统、机器学习/深度学习的可解释性、语言大模型、知识工程等各自探索走出一条人工智能的发展路径（行为主义学派也可并入连接主义学派）

我们感谢辛顿的支持。

二、针对大语言人工智能而言，连接主义战胜了符号主义或神经网络方法战胜了逻辑方法。

三、连接主义可以使大模型无师自通学会人类自然语言

(即大语言模型在增加资料库连接强度采用统计方法后，会突然产生理解/推理涌流，赋予机器生成人类自然语言。）

四、大语言模型具有对世界的理解力

大语言模型通过学习大量数据中的统计规律，构建它对世界的深层理解。

辛顿认为有两种理论：一个是符号主义方法（一个词的意义在于它与其他词的关系），另一个是心理学方法（一个词的意义是由一大堆特征组成的），大模型很好结合这两种理论，即学习单词的特征和如何相互作用，在推理时可预测下一个单词的特征。他还认为，在大模型中数百万个特征及特征间数十亿次交互，就是理解。这种理解是通过算法和数据学习得来的。

五、数字系统的更新和改进速度远远超过生物进化

数字系统可比生物系统更有效地共享知识，如GPT在知识积累和分享方面具有明显优势，这种优势来自于能够在众多处理单元之间快速、精确地复制和传播权重知识。辛顿认为现在拥有的数字模型已经非常接近于人脑的水平。

六、数字计算是不朽的

数字智能可以无限期积累知识，数字系统可以在不退化情况下保存和复制知识，不像生物系统容易老化和死亡。

七、大模型的幻觉不是问题

辛顿说，心理学家不认为这是一个问题，因为人也会胡说。

八、超级智能不需要太久就会出现

辛顿说，我过去认为可能需要50~100年才有可能出现超级智能，看来可能会加快，在未来20年内会出现比我们更聪明的人工智能。

九、数字超级智能可以控制人工智能

人工智能不容易受到宗教和战争的影响，如果数字超级智能想要控制它，我们不太可能阻止。

十、超级智能会给人类带来威胁

辛顿说，超级智能会拥有若干方法将我们消灭，我不确定你能否让他们是否保持善意。他还认为，人工智能会产生致命的自主武器，他非常可怕，完全自主运行。

十一，人工智能的潜在风险

辛顿探讨了人工智能发展的潜在风险，包括虚假信息的传播、引发大规模失业、人类对其监控，以及人工智能具有自主武器系统对人类的威胁。

十二，人类社会如何迎接挑战，解决人工智能给他们带来的危险

辛顿的讲座为未来人工智能研究和应用提供了重要的思考框架，他没有具体谈人类社会如何迎接挑战解决人工智能的威胁，可能他留给人们，让大家与他一起来探索良策。

（陆注：3月18日辛顿和姚期智等数十位中外AI专家签署了“北京共识”，提出了AI红线，要求任何AI系统都不应该在人类没有明确批准和协助情况下自主地复制和改进自己。）

两则简讯：

COPU2024年3月18日获讯：

欧洲会议通过世界第一套全面监管AI的法案，从四个方面监管生成式AI，将AI的风险分成四个方面，从不可接受到高、中、低（风险）四个等级。（欧盟27国于2024.3.18一致通过该法案）

COPU2024年3月19日讯：

中国人民银行向境外发行数字人民币。

参会人员：陆首群、梁志辉、宋可为、谭中意、陈伟、安泱、张侃、王珊、刘巍巍、鞠东颖、宁固（线上）、孟迎霞（线上）、耿航（线上）、陈越（线上）。