COPU会议纪要2023.11.28

11月28日（周二）陆主席主持召开COPU例会。

一、在会上，陆主席发表了他写的一篇文章：《Q*（Q-star）模型和推理能力》。

Q*（Q-star）模型和推理能力

陆首群 2023.11.26

GPT系列大模型取得发展的关键在于获得推理能力。

从GPT-3大模型开始，在其资料库中的参数量增加到1750亿时。Sam Altman突然发现Chat GPT大模型涌现出当时令他也费解的推理能力。

在新知识工程中（包含大模型）推理是生成的基础。推理机制产生后将引发大模型产生生成式AI，即赋予机器生成人类自然语言，为Chat GPT创造人机对话的条件（这时机器会讲人话）。

增加预训练的参数量将辅助性的进一步提高推理能力，而足够强大的推理能力不但有助于加强人机对话，减少在方向决策（人问机答）过程中的错误概率，还可大力推进大模型通向强人工智能领域的步伐。

为了提高预训练参数量，曾向互联网搜集海量数据，Falcon曾在3.5万亿token完成训练，在Hugging face排行榜上直接登顶。如果只是利用从互联网上获得的数据，将无法以足够的数据进行下阶段的训练。

Sam Altman在不久前举行的亚太经合组织领导人峰会上发言表示，他相信通用人工智能（AGI）即将实现（AGI属于强人工智能范畴）。大模型（如MPT系列）朝着通用人工智能（AGI）和可能的超级人工智能方向发展。

由AI解决复杂问题的能力日益增长所标志的数学问题，ASI意味着智能超越各个领域最聪明的人类思维，代表着AI发展的巨大飞跃。

GPT系列大模型在发展中还存在下列问题有待解决：

1）进一步提高Chat GPT大模型在人机对话中的质量（包括提高文档翻译质量）；

2）解决大模型在咨询服务中（人问机答）出现错误问题（即使出错率低，也将为决策者带来困惑）；

3）向强人工智能（AGI、ASI）发展问题；

4）在大模型人工智能一旦超越人类时，解决可能引发人类的安全问题。

Q*（Q-star）模型可用来解决大模型在发展中存在的问题：

1）Q*模型使用计算机生成的数据来训练承担复杂任务的大模型（解决从互联网提取的数据之不足），将有利于提升chat GPT在人机对话中的质量问题，有利于提高翻译水平；

2）Q*为走向强人工智能（AGI、ASI）的大模型提供其需要的高级推理技能（理解复杂概念，应用逻辑推理，创新解决方案）；

3）Q*用于决策（特别适用于复杂环境中人工智能的决策），其运作程序为：采用Q-learning强化学习算法进行决策，将其中的基于贝尔曼方程的Q函数制作Q表（含状态、行动诸项，并借助推理生成能力，解析算法结果或进行精确估算），从而达到高质量决策目的（也可消除在咨询服务中出现少量错误的概率）；

4）当大模型的人工智能一旦超越各领域最聪明的人类思维使人类可能遭遇安全危险时，Q*可帮助创建预防人类安全威胁的Q*自主系统。其实，预防对人类安全威胁的有力措施应该建立全球开源社区（在2023年6月由COPU举行的第十八届开源圆桌会议上，Jim Zemlin和Brain Behlendorf两位大师就提出这样的议案，充分发挥开源社区的作用。

二、会上还讨论了COPU专家在研发人工智能中的作用：

COPU专家在研发、评论、讨论人工智能发展中起了涉及中外的重要作用。

（1）COPU专家发表有关人工智能独立的著作

（2）COPU专家和国内外人工智能先行研发的专家对人工智能进行深入的讨论：

①与Intel中国研究院院长讨论谈企业研发的“异步脉冲神经网络”+“神经拟态计算系统”。

②与IBM Watson Health 研发团队核心人员讨论其主持的新知识工程的研究。

③与IBM人工智能研究院院内外专家讨论对可解释性人工智能的研究。

④与全球著名语音专家、小米聘请首席语音科学家Daniel Povey讨论新阶段Kaldi语音识别研发情况。

⑤应互联网治理论坛的邀请、2021年12月COPU专家出席在波兰召开的互联网治理座谈会，同时被邀请的有印度政府、谷歌、哈佛商学院、GitHub分别代表全球开源组织、政府、企业、学校、网站讨论互联网AI数字化治理问题。

⑥与全球开源大师Jim Zemlin、Brian Behlendorf讨论AI安全问题。

⑦对国内外重大基于开源的AI项目（约10多项）进行点评。

⑧转载全球研发的AI项目（1280项）

⑨与国内著名的AI专家张钹、钟义信、高文、李开复、黄铁军等讨论AI发展问题。

⑩对谷歌、清华大学+中国工程院、MIT发表的年度AI发展进行商榷性讨论。

⑪与商汤的AI专家讨论被美国众议院和谷歌董事长认定居全球拔尖的人脸识别问题。

（3）为基于开源的AI进行理论论证。

三、会上开放原子开源基金会教培与行业研究部部长朱其罡向COPU通报了基金会的情况：

开放原子开源基金会自2020年6月经国务院批准成立以来，贯彻习近平新时代中国特色社会主义思想，按照“超常规发展”的时代需求，走中国式现代化道路方面坚定不移。

成立三年多来，基金会抓紧团队建设、能力建设、制定开源人才评定标准，建设培训和考试体系，提升行业研究能力，在行业影响方面（开展大型品牌活动），在对外合作方面（与Eclipse基金会合作，拟在国外等推出Open Harmony发行版，在南美应用openEuler，与Intel进行开源合作等）均迈出了坚定的步伐。

朱其罡希望开放原子开源基金会，在开源对内对外方面加强合作。

参会人员：陆首群、梁志辉、谭中意、荆琦、安泱、张侃、朱其罡、刘昱彤、费寅佳、程海旭、鞠东颖、陈伟（线上）、隆云滔（线上）、张路（线上）。