COPU会议纪要2023.03.21

3月21日（周二）陆主席主持召开COPU例会。

一、 会议首先讨论了近期中方与OpenSSF的Brian团队拟召开线上视频会议时，对编制国内开源组件供应链可能遇到的安全风险和解决方案，准备中方的意见并提出相关建议。

二、 在本次会议上，陆主席作了“以Chat-GPT、GPT-4的视角，探索人工智能向何处去？”的讲话，供大家讨论时参考：

以Chat-GPT、GPT-4的视角探索人工智能向何处去？

2019年COPU建立“评人工智能向何处去？”的论坛（同时开辟国内外AI跟贴留言平台），至今三年多了，中外AI学者专家登录的跟帖1145条，基本上概括了全球AI发展的全貌。

全球人工智能发展现阶段处于以机器学习／深度学习为代表的弱人工智能阶段，其主要成果是计算机视频、语音识别、图像识别、人脸识别、自动驾驶、脑机接口、开发出一批新材料、新药物（包括开发250种不具抗药性的新抗生素）、医疗影像等。

该论坛提出由弱人工智能向强人工智能发展5条可能的路径：①打破机器学习的黑盒子实现可解释的人工智能，②基于异步脉冲神经网络的神经拟态计算系统，③依托大规模语义网络（知识图谱）实现认知智能，④脑机接口的理论和实践，⑤探索未来人工智能：通用人工智能（GAI）和机制主义通用人工智能（GTAI）。

据COPU2022年中期统计，为上述第③专题贡献86条跟帖的单位有：IBM、OpenAI、谷歌、微软、DeepMind、阿里巴巴、百度、COPU、斯坦福大学、卡内基梅隆大学、麻省理工学院等。

为探索认知算法模型，专家构想一条知识图谱技术链：

数据知识双驱动→知识融合→知识表示→知识存储→知识逻辑推理→认知算法模型，其中的一个环节“知识逻辑推理”存在机制性缺陷（知识推理还要有逻辑，而逻辑是核心！），阻碍了知识图谱技术链的贯通，当然也阻碍认知智能的实现，表现为不能赋予机器识别、理解、生成、应用人类自然语言的能力，也不能排解常识中的难点。

人类天然具有知识逻辑推理机制，形象地说，如同观察大街上跑的各种颜色的汽车（有黑、灰、蓝、白等颜色）均可推理归纳通称汽车，但计算机不行！它只认定为这是黑色汽车、这是灰色汽车……，不能推理归类通称汽车。

OpenAI采用切割语义组件建立大规模语义资料库（网络）、基于转换器（Transformer）进行预训练迭代的方式，取代知识逻辑推理环节，让计算机认定黑色汽车是汽车，灰色汽车也是汽车……，库容愈大，让计算机认定的汽车愈来愈接近人类知识逻辑推理认知的汽车。

OpenAI研发的GPT，开拓了一条依托大规模语义网络（知识图谱）支持，以GPT系列发展来实现认知智能的路径。

ChatGPT是在GPT序列基础上开发的专业性以自然语言对话型的语言处理模型。一般来说，人类不识别机器语言，机器也不识别人类语言。ChatGPT革命性的成就就在于它利用自身独特的处理机制，让机器做到理解、生成、应用人类自然语言（理解：让机器听懂人话，生成：让机器讲人话，应用：让机器人办人事），它的专业对话或文档翻译水平，已跃过图灵测试线，从基于机器学习的弱人工智能率先实现认知智能的强人工智能的领域。

GPT-4是一个大规模多模态语言（文本）模型，具有广泛的应用，如对话系统、文本摘要、机器翻译、办公系统、程序设计等，在全功能应用中还包括能够识别并排除偏见、虚假信息、过度依赖、隐私，以及网络安全、扩散等方面的风险。GPT-4基于机器学习（弱人工智能阶段）正在向认知智能（强人工智能阶段）发展中，据OpenAI GPT-4发表的白皮书来看，目前GPT-4的总体能力还不如人类，这说明还未跃过图灵测试线，但GPT-4的专业水平已达到人类的表现水平，在某些场景中还可能超越人类（主要在速度和效率上不是在智能上），它们将像ChatGPT一样越过了图灵测试线进入强人工智能领域。

我们原来认为，第一个由弱人工智能跃升为强人工智能的案例，走的是可解释性机器学习的路径，3年前IBM在全球率先推出成果，由于有待完善化，我们与IBM的专家一直在讨论中。现在看来，OpenAI的ChatGPT和专业水平的GPT-4可能在通向强人工智能领域中拔头筹。

三、 会议请中科院文献中心副研究馆员许哲平博士作“开放科学”的报告，他谈了：开放科学、开放文化、开放经济、开放基础设施、开放资源（及开放数据）、开放治理、开源代码，以及开放战略、开放架构、开放生态、开放标准等，会议认为可作为编制2023年中国开源发展蓝皮书充实内容的参考。
四、 陆主席在会上对上海开源技术协会狄安副秘书长一行专程赴京参加COPU例会双方就推进开源运动进行沟通合作，表示欢迎！

本次参会人员：陆首群、刘澎、梁志辉、谭中意、宋可为、孟迎霞、梁冠宇、许哲平、狄安、王德敬、白国华、朱明艾、刘巍巍、鞠东颖