相关阅读:

把国防部长气疯,把特朗普惹毛,Anthropic CEO宁死不踩的AI底线到底长啥样?

3月3日消息,OpenAI首席执行官山姆·奥特曼(Sam Altman)周一表示,公司“本不该仓促达成”近期与美国国防部的协议,并将对该协议进行修订。

上周五,这家ChatGPT开发商宣布与国防部达成新协议。就在协议达成前数小时,白宫刚指示联邦机构停用竞争对手人工智能公司Anthropic的工具;而在协议达成几小时后,华盛顿便对伊朗发动了袭击。

奥特曼在X平台上发帖称,OpenAI将修订合同以加入新条款,明确“不得故意将AI系统用于针对美国公民及国民的国内监视”。

他补充道,国防部已确认,美国国家安全局(NSA)等情报机构不会使用OpenAI的工具。

“这项技术在诸多方面仍未成熟,对于安全所需的权衡取舍,我们仍有许多未解之处,”奥特曼表示。他还补充说,公司将与五角大楼合作制定技术保障措施。

奥特曼还承认自己犯了错,认为上周五“不该仓促”敲定协议。

他说:“我们当时确实是在努力缓和局势,避免更糟糕的结果,但我认为这看起来既投机又草率。”

在奥特曼表态之前,Anthropic曾因其Claude AI系统的安全保障问题与华盛顿方面发生公开争执。美国国防部长皮特·海格塞斯(Pete Hegseth)也曾表示,该公司将被列为供应链威胁。

Anthropic此前曾寻求获得保证,确保其工具不被用于美国国内监视,也不得在缺乏人类控制的情况下用于操作或开发自主武器。

这场争端始于今年1月的一则消息。当时有报道称,美军在抓捕委内瑞拉总统尼古拉斯·马杜罗(Nicolás Maduro)的行动中使用了Anthropic的Claude系统,尽管该公司并未公开反对该用途。

OpenAI与五角大楼的协议,恰好是在Anthropic与国防部谈判破裂后达成的。这在网上引发了公众的强烈抵制。据报道,许多用户在应用商店中弃用了ChatGPT,转而投向Claude。

奥特曼在帖子中进一步回应了这一争议,他表示:“在周末的谈话中,我重申不应将Anthropic列为供应链风险,并希望国防部能向其提供与我们相同的条款。”(易句)

(本文由AI翻译,网易编辑负责校对)