COPU会议纪要丨2024.07.30
2024-07-30 16:00:55
choss
81
7月30日陆主席主持召开COPU例会。
本次会议主要讨论“评奥特曼的“闭源AI”、关停API、割裂全球AI的言论和策略”，下面首先发表陆主席的文章：
《评奥特曼的“闭源AI”、关停API、割裂全球AI的言论和策略》
一、针对奥特曼的“闭源AI”、关停API、割裂全球AI的三个言论：1、2024年6月，奥特曼违背“开源AI”初心转向实行“闭源AI”策略。他说：现在OpenAI研发的目标直接瞄准通用人工智能（AGI），“开源人工智能可能不是实现这一目标的最佳路径”。（奥特曼可能没有真正理解AI大师杨立昆指出的AGI的理论基础，即AGI不存在自回归大语言模型（LLM）并不是通往AGI的充分途径，因为他们缺乏智能生物的基本能力；真正的智能需要对物理世界的具体理解。2、2024年5月13日，奥特曼推出闭源的大模型GPT4o，2024年6月25日，奥特曼宣布对中国、朝鲜、伊朗、俄罗斯等一些用户关停GPT4o API的政策。3、2024年7月26日，奥特曼在《华盛顿邮报》上发表“谁将掌控AI的未来？”的声明。充满了极端的意识形态色彩。他说：“人工智能将由谁掌控，是我们这个时代最紧迫的问题”，“需要确保以美国为首的西方世界主宰AI这一领域”，“特别要防范中国，他们表示在2030年前要成为全球AI的领导者，他们AI的发展已经初具成效，呼吁建立以美国为首的民主国家的AI主权联盟，在联盟内部开源，对其他国家闭源，更要采取强有力的安全措施。”奥特曼的上述三个言论遭到国内外众多开源和AI专家的批评和反对。早在2015年,美国谷歌、脸谱、微软、IBM 四大AI初期的重镇,在发展AI时遇到瓶颈,同年一致将AI的工具、平台、框架、源代码、项目全部实行开源以解瓶颈之危。2016年,Linux基金会进行基于开源的深度信息技术(如移动互联、物联网、云原生、区块链、人工智能等）的研究、推广工作。2018年,COPU将推进基于开源的深度信息技术列为本开源联盟的主要任务之一。2024年6月18日,在奥特曼发表“闭源AI”策略不久,陆首群谈话: “我预言,开源AI的竞争性研究者即将站在奥特曼身旁,与他一比高低！同时，他发表 《发展基于开源的人工智能》的文章，在文中他阐述:“依靠开源不但可加快AI的开发速度,提高开发质量,打通发展瓶颈,扩大生态,加强运维,反对垄断,在构建AI安全时更离不开开源；有人对免费的开源有所误解，其实在推出免费的开源社区发行版同时，还推出收费的开源商业发行版，以支持开源产业的发展。”2023年7月,开源大师Jim Zemlin、Brian Behlendorf在COPU的园桌会议上指出：开源是AI 安全的保障。2024年7月2日,谷歌、Meta 和扎克伯格嘲讽奥特曼成为构建闭源的头人，严厉批评奥特曼对中国关停大模型GPT-4o的API举措,认为这是一项愚蠢的丑行。在Open AI开发闭源GPT-4o时，谷歌、Meta开发开源的Gemini-2(9B、27B)和Llama3.1，而开源的Lama-3.1(405B版本)超越了闭源的GPT-4o(以后互有反复),处于竞争潜涡之外的法国Kyutai也开发了具有多模态功能的开源模型Moshi,挑战闭源的GPT-4o。在奥特曼向中国关停API时,激起了中国一批大模型的反制,平替OpenAI关停API接口，这次中国不但未输而且领先一局。扎克伯格更声称:“开源AI是前进的道路”，“利用开源技术构建世界领先模型和生态系统”，“开源操作系统、开源大模型之争，不仅是开发者人才的竞争更是国家之间科学与产业的竞争”。扎克伯格还特别赞扬Linux在AI时代赢得了广泛的欢迎。在2024年3月18日由本吉奥、辛顿、姚期智等几十位中外人工智能大师、专家签署的《北京AI安全国际共识》中，和在2024年6月14~15日成功举办的《北京智源大会》(伯克利的罗素、MIT的泰格马克、清华大学的姚期智、张亚勤等,及OpenAI、斯坦福、谷歌的代表300多位AI专家参加大会）上，把构建AI安全看作为AI 研究的前沿，把建立国际统一的AI安全研究和治理看作为头等大事,为此离开“开源AI”能够成事吗?!二、借口意识形态划线，分裂全球对AI进行统一的安全研究和部署是走不通的萨姆-奥特曼(Sam Altman)最新在《华盛顿邮报》上发表了一篇专栏文章，充满了极强的意识形态色彩,直接把对AI的态度上升到国家主权、阵营的级别，这是非常少见的聊政治、国际问题的公开发声。奥特曼呼吁“建立以美国为首的AI主权联盟,确保AI仍然是自由和民主的载体。”他在文中说:“AI将由谁掌控,是我们这个时代最紧迫的问题”。他认为,“需要确保以美国为首的西方世界主宰AI这个领域,免受中国侵占”。人工智能领域的突破，迫使我们面临一个战略选择：是要由美国及其盟国推动全球人工智能的发展、传播；还是任由一些不认同他们价值观的国家利用AI巩固和扩大他们的权力”没有中间道路可选。“现在是时候决定走哪条路了”。他还说：“美国目前在AI领域处于领先地位,但这种领先并不巩固”。“全球范围内的中国政府投入巨资,试图追赶并超越我们。赢得AI竞争的国家将拥高权力和影响力。同时,中国也明确表示,其目标是在2030年前成为全球AI的领导者。”“他们的AI的发展已经初具成效，像Chat GPT、Capilot这样的系统作为助手发挥作用，无论是提供有限帮助还是在特定领域如软件工程的代码生成中发挥更大的作用。人类社会正处于一个关键时期。”他说：“确保世界能够体现民主愿意，美国的公共部门和科技行业需要做到以下四点”：“首先，制定了强有力的安全措施，保护我们的技术优势，同时保持私营企业的创新能力。这包括加强网络防御和数据中心安全，防止关键知识产权如模型权重和A1训练数据的泄露。”“第二，投资于基础设施建设,因为他们是AI发展的基础。过去对光纤网络等基础设施的投资帮助美国在数字时代取得领先,并继续支撑其在AI领域的优势。美国需要与私营部门合作，进一步建设数据中心，电力设施等，同时创造新的就业机会。此外，还需要培养下一代AI创新人才。”“第三，制定一套连贯的商业外交政策,涉及AI技术的出口管制和外国投资规则。对于某些敏感的AI技术,如芯片、训练数据和模型代码,可能需要采取限制措施。同时，要确保盟友能够轻松获取开源模型，以加强技术联盟。”“第四,探索新的合作模式,与其他国家就AI问题保持对话。可以考虑建立类似国际组织的机构来管理AI事务,或者通过投资基金等方式支持遵守美西方国家发展AI。”作为领先国家和技术领先者，我们肩负着这一责任，现在是采取行动的时候了。奥特曼高举美西方假民主大旗，以意识形态划线，分裂全球对人工智能的安全进行统一开发和部署，是行不通的！
参会人员：陆首群、章文嵩、宋可为、张侃、谭中意、安泱、王珊、何苗、鞠东颖、刘澎（线上）、刘明（线上）、陈伟（线上）、Anna.Ai 胡宇（线上）。
