OpenAI革命到以苏解马探索 方晓璐
《环球科学》杂志2023年11月号,发表的《全球环境差异调查》一文开头就说:“不健康的生活环境会让人们时刻暴露在水污染、空气污染以及核辐射等危险因素中。环境公平问题经常被人忽略。但在科学家看来,这个问题不仅可以通过数据清晰说明,还可以通过大家的共同行动来改善”。 2023年11月20日,科学网转载发表记者方晓的《有效利他主义与现实:OpenAI革命性的治理模式已死?》一文报道:在震惊科技界的OpenAI(美国开放 人工智能研究公司)管理层“变天”中,对创始人山姆•奥特曼被突然解雇最普遍的说法是,一个长期存在的问题导致了管理层的分裂:奥特曼致力于将OpenAI(最初是一家非营利组织)转变为一家成功的企业,希望公司快速推出产品和吸引客户,引发了董事会成员对人工智能工具安全性的担忧。 那么……出了什么问题?从表面上看,OpenAI董事会所做的一切完全在其权力范围内。它的章程赋予其罢免首席执行官的权力,投资者知道他们在董事会中没有席位,也不会获得席位。他们还知道已签署文件确认他们知道OpenAI不会采取行动来最大化他们的回报。投资者针对这一决定提起诉讼将很难获胜。 然而,世界实际上并不是这样运作的。你可能在纸面上拥有很大的权威,然后发现它在实践中几乎毫无意义。简单的现实是,奥特曼是大多数高级员工忠诚的人,没有什么可以阻止他在周一创办一家新的人工智能初创公司。 不像OpenAI,由于(新公司)提供了不受任何投资限制的回报选择,很明显OpenAI的几位主要支持者会愿意更换团队──他们中的几位此时已经公开表示了这一点。很明显,许多高级员工将挪窝。 OpenAI将面临所有高级团队被掏空、投资者支持同时崩溃的局面,而在这种背景下它还需要击退新的竞争对手。董事会根本没有认识到非正式的权力力量,而是过度关注正式的权力力量。 这几乎与董事会的失败一样引人注目:他们的全部目的是看到整体,而不仅仅是适合他们的部分。它也显示了有效利他主义的更广泛问题:理论上很容易将事物简化为规则、排名、文件等。当它遇到现实时就会崩溃。接下来会发生什么谁也说不准。据报道,OpenAI董事会正试图吸引奥特曼回来──如果不对董事会进行重大治理和人事变动,他不愿意这样做,这是可以理解的。投资者不太可能愿意在没有董事会席位的情况下维持更长时间。 OpenAI目前的治理模式已经死亡──一件有意思的事情是,如果奥特曼回归,这位富有利他主义、富有同情心的CEO是否愿意容忍对自己权力的限制。最重要的是,OpenAI试图建立一家大型科技初创公司,而创始人/首席执行官并未拥有无懈可击的权力。 OpenAI正试图通过两种方式改变世界:构建安全且革命性的人工智能模型,以及向大型科技公司展示可以以不同于以往的方式运营。对于前者还没有定论,但后者的实验现在看起来非常失败。 尤其是创始人、首席科学家伊尔亚•苏茨克维,对安全问题的担忧越来越直言不讳,并在7月组建了一个“对齐(注:引导人工智能系统的行为使其符合设计者的利益和预期目标)”团队。消息人士透露,他和奥特曼的紧张关系在10月加剧,到了11月6日OpenAI首届开发者大会,奥特曼宣布允许任何人创建自定义的GPT,激怒了苏茨克维。 对于一家正在谈判以高达860亿美元估值出售股票的公司来说,理念上的分歧通常不会让它走向灭亡,但OpenAI不是一家普通公司。它从建立之初就不一样,随后设定的权力结构和董事会性质都不一样。 要明白OpenAI此次不寻常 地震的缘由,就必须了解其历史和哲学。2023年11月20日,知名科技博客Techtris发表文章,详细解释和梳理了OpenAI治理模式的矛盾之处,并判断:OpenAI试图向大型科技公司展示以不同于以往的方式运营,但失败了。 这篇文章的内容是:OpenAI是人工智能运动的时代精神企业,它在一周的时间里从表面上的胜利,变成了灾难。 本周早些时候举行的大型产品演示“开发者日”表明该公司正在加速其技术的商业化和实际推广。但周五(11月17日)下午,该公司董事会宣布首席执行官山姆•奥特曼──也许是人工智能最著名的倡导者和首席执行官──将立即离职。 官方声明没有做出任何努力来掩盖这是一次开除,称董事会对奥特曼失去了信心。不同寻常的是,也几乎没有做出任何努力纳入重要的利益相关者:股东和高级管理人员完全不参与其中。 该公司现在似乎正在崩溃:高级管理人员正在离职,投资者想要答案,据报道董事会正在寻求奥特曼的回归。除非你了解以苏解马的历史、它的哲学,以及它现在如何与现实发生冲突,否则所发生的事情看起来是不可理解的。
|