这位美国女学者投下重要一票,在OpenAI“宫斗”中
最近，开放人工智能研究中心首席执行官萨姆·奥尔特曼被解职一事，成为全球关注的科技新闻。这位因ChatGPT而声名鹊起的人物，为何遭遇“宫斗”被迫离开OpenAI、转投微软公司？媒体上、网络上一时众说纷纭。
解放日报·上观新闻记者就此采访了上海市科学学研究所李辉研究员。在他看来，奥尔特曼解雇事件的原因与人工智能治理有关，对于如何发展人工智能有不同认识，是OpenAI董事会内部矛盾爆发的主要因素。
李辉介绍，上海市科学学研究所2020年发布的《2019全球人工智能治理年度观察》刊登了乔治城大学安全与新兴技术中心战略主任童海琳对人工智能治理问题的看法。2021年9月，她被任命为OpenAI董事会成员。
《2019全球人工智能治理年度观察》上的童海琳简介
在此次董事会“宫斗”中，奥尔特曼被投票“出局”，董事会主席格雷格·布罗克曼也紧跟着辞职。OpenAI董事会共有6名成员，业内人士透露，董事会上周以4∶2票数作出重大决定。投赞成票的4人是：OpenAI首席科学家伊尔亚·苏茨克维，以及3位来自公司外部的独立董事——产业界的亚当·迪安杰罗、塔莎·麦考利和学术界的童海琳。“可以说，这位美国女学者投下了重要一票。”
从童海琳为《2019全球人工智能治理年度观察》撰写的文章就可看出，她对OpenAI的GPT发布持审慎态度，关注发表规范及其社会影响：“对我来说，2019年最引人注目的人工智能治理讨论是关于负责任发表规范的讨论。这种讨论是由OpenAI推迟发布GPT-2的决策引出的。GPT-2是一种经过训练的语言模型，旨在预测文本中的下一个单词。”当时，GPT-2还没有火出圈，但已经展现出颇为强大的能力，能够以各种风格生成多个相当连贯的文字段落。
让童海琳赞赏的是：“OpenAI的声明比GPT-2在语言生成方面的表现更引人注目：OpenAI表示不会发布完整的模型。其理由是：GPT-2可能被用于‘大规模生成欺骗性的、有偏见的或侮辱性的语言’，OpenAI希望借此机会促进机器学习界关于负责任发表规范的讨论。”
李辉分析，这位学者探讨的GPT系列大模型发表规范，属于人工智能安全和伦理问题。随着大模型的问世和商用，它引起了越来越多政府官员、学者和企业家的关注。在技术研发和设计商业模式的同时，如何确保企业产品和产业生态安全，成为摆在全人类面前的一个问题。
《2019全球人工智能治理年度观察》刊登的童海琳文章
近日举行的OpenAI首次开发者大会显示，奥尔特曼在大模型商业化方面采取了比较激进的战略——除了发布大模型GPT-4Turbo，他还宣布将在今年11月底推出GPT应用商店，支持用户用自然语言定制自己的GPT，上传到GPT应用商店后即可获得收入分成。
从奥尔特曼解职事件可推测，这场开发者大会激怒了多名OpenAI董事会成员。OpenAI上周五发布的博客称：“奥尔特曼先生在与董事会的沟通中始终不坦诚，阻碍了董事会履行职责的能力。董事会不再对他继续领导OpenAI的能力充满信心。”
11月16日在旧金山拍摄的萨姆·奥尔特曼
“其实，‘两条路线’的斗争早在马斯克退出OpenAI董事会时就开始了。”李辉告诉记者，2019年，原本定位是非营利组织的OpenAI发生重大转型，成为一家“营利性和非营利性共存”的公司，这次转型之前，作为OpenAI发起人之一的埃隆·马斯克已退出董事会。今年3月，马斯克还在社交媒体上吐槽这家企业：“我仍然很困惑，当初我捐赠了约1亿美元的非营利组织，现在怎么变成了一家市值300亿美元的营利性公司？”
正因为这段恩怨，网络上有人称：奥尔特曼被董事会踢出，是在向马斯克致敬。李辉告诉记者，在GPT发展中，与他交流过的OpenAI治理团队人员相继离职，似乎也是“路线斗争”的一种反映。
事实上，围绕人工智能商业优先、还是安全优先的“路线斗争”不只在OpenAI公司内部上演。今年3月，生命未来研究所发布、马斯克等人签名的《暂停大型人工智能研究》公开信就体现了“安全优先派”的呼声：所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统，暂停时间至少6个月，以防范人工智能让人类失去文明控制的风险。
“当人工智能系统在执行一般任务上变得具有人类竞争力时，我们必须问自己：应该让机器用宣传和谎言淹没我们的信息渠道吗？应该实现所有工作的自动化，包括令人满意的工作吗？应该开发出非人类的思想，让它们最终可能在数量上超过我们，比我们聪明，甚至取代我们？应该冒着失去文明控制的风险吗？”《暂停大型人工智能研究》犀利发问。
在李辉看来，公开信中列举的人工智能风险确实存在，随着ChatGPT和GPT-4问世，通用人工智能可能已近在眼前。所谓通用人工智能，就是人工智能像人一样可以做很多事，不再局限于某些特定任务。这类AGI系统投入商用后，有可能成为一些人作恶的工具。
“所以通过奥尔特曼解职事件，我们不但要看‘宫斗戏’，还要思考背后的人工智能治理问题。”李辉说，“这场‘宫斗’是人工智能治理这个关乎全人类的时代命题在精英公司的冲击性展示。能否在商业和安全两者之间找到一个科学合理的平衡点，是对人类智慧的一次考验。”
