卫报评OpenAI董事会改组：变革为股东带来的利益多于为人类带来的利益

　　近日，英国知名报刊对OpenAI首席执行官 Sam Altman及董事会改组一事发表了观点评论，表示超级智能人工智能的发展需要人们更加谨慎的处理企业的管理。

　　在 1983 年的电影《战争游戏》中，美国国防部运行着一台超级智能中央计算机，但由于该计算机被一名青少年入侵，无意中几乎导致了核世界末日。当计算机（称为约书亚）在与青少年玩井字棋后，了解到核战争不会有赢家时，这一洞察使他撤销了导弹发射命令，并评论道：“一场奇怪的游戏。唯一的获胜之举就是不玩。”最终世界末日得以避免。

　　电影中约书亚的行为体现了超级智能的人工智能将具有拟人化思维的理念。然而那一年拯救世界的是一个人类。——1983 年 9 月，当苏联的自动预警系统错误地指示美国进行了核攻击时，斯坦尼斯拉夫·彼得罗夫中校违反了灾难且报复性的核打击的命令。

　　超级智能机器的发展不能只关注其硬件设备的发展水水平，其终极逻辑同样需要得到完善和系统性的思考和管理。从过去一周内OpenAI 公司的混乱状态来看，研发和制造超级智能的人工智能的公司，似乎使得这种风险管控变得更加困难，作为最著名的生成式AI——ChatGPT 的制造商。该公司首席执行官萨姆·奥尔特曼（Sam Altman） 的解雇和重新聘用，引发了人们对 OpenAI 是否只是一家以利润为导向的企业的质疑。

　　显然无论从何种角度来看，这都是一种损失。OpenAI是促进大规模合作、降低人工智能风险的创新尝试，Sam Altman与 Elon Musk 于 2015 年成立了 OpenAI，作为一个非营利性研究实验室，旨在安全地实现计算机领域的神话：创造出可以匹配或超越人类思维的通用人工智能（AGI）。但事实证明，这是一项昂贵的冒险，直到2019 年，微软开始注意到OpenAI并对其产生兴趣。两年后，微软斥资 130 亿美元购买了这家营利性部门 49% 的股份，OpenAI 认为这是对其崇高事业的“捐赠”，而不是“投资”。

　　表面上看，OpenAI 由一家致力于开发人工智能以实现“人类最佳利益”的非营利组织控制，而奥尔特曼先生被解雇正是因为他“在与[非营利组织]董事会的沟通中始终不坦诚”。

　　据报道，当工作人员警告 Sam Altman的离职可能引发 OpenAI 崩溃时，董事会表示这将“符合使命”。所有投票赞成罢免Sam Altman的人，都已被一支对商业更加友好的团队所取代，据报道，其中包括微软的一个席位，这是Sam Altman回归的关键。人们对超级智能方面可能的突破进行了很多讨论，这导致了他最初的失败。当前的人工智能系统，看起来更像是数字工具，尽管是具有超人能力的工具。

　　在电影《战争游戏》中，在发动核战争之前，约书亚问“我们玩个游戏好吗？”。显然伤害、毁灭或欺骗人类的自主权力永远不应该赋予人工智能，政府需要更仔细地监管这一领域。

　　如果追求技术霸权意味着抵制良心和逃避法律怎么办？OpenAI 的崩溃可能就是一次前车之鉴。尽管企业的发展历史表明，现金拥有最终决定权，许多企业都有目标和财力来寻求逃避社会其他部门的监督。让这种精神控制与逃避，对整个社会而言都将是一种倒退。