Anthropic IPO 开盘钟声里,Altman 的祝贺与旧日恩怨
Anthropic 纳斯达克上市首日股价大涨,OpenAI CEO Sam Altman 公开祝贺老对手,并重提与 Anthropic 分手时的恩怨。
Anthropic 纳斯达克上市首日股价大涨,OpenAI CEO Sam Altman 公开祝贺老对手,并重提与 Anthropic 分手时的恩怨。
行业
当 Anthropic 周四以史上最大规模 IPO 登陆华尔街时,CEO 达里奥·阿莫代伊重申了公司负责任地开发 AI 的承诺。在纳斯达克开市钟敲响前的致辞中,阿莫代伊誓言这家 AI 公司不会向商业或政治压力低头,并将「保持处于人类控制之下」。
这位 CEO 照着打印稿念致辞,开场先讲了 Anthropic 的起源:打造强大的技术来帮助人类——他说这源于他的父亲死于一种疾病,而仅仅几年后这种疾病就变得可以治愈。
他承认,虽然人类智能已经让鼠疫、天花和小儿麻痹症在世界上大部分地区成为历史,但在其他疾病领域,科学家太少、时间太紧,进展依旧缓慢。他说,AI 可以通过与人类协同工作来推动医学进步,帮助解决这个问题。
阿莫代伊以 AI 潜在的救生应用开场颇值得玩味,因为他曾多次警告过技术推进过快的风险。今年 9 月,他曾因提出一项为 AI 发展「踩刹车」的计划而登上头条,该计划包括与各头部公司就安全标准进行协调,以及引入第三方机构的评估员来核实各公司是否遵守了安全承诺。
OpenAI CEO 山姆·奥特曼、Google DeepMind 负责人德米斯·哈萨比斯以及 xAI 所有者埃隆·马斯克都表示同意阿莫代伊的立场,但目前几乎没有做出任何具体承诺。
在今晨的致辞中,阿莫代伊再次强调推进 AI 技术的必要性以及随之所需的安全工作。他提到 AI 落入恶意行为者——无论是个人还是民族国家——手中的「非常现实的风险」,以及「经济动荡」和「AI 系统失控」等潜在后果。
他指出,Anthropic 认为只要安全防护到位,这些风险是可以避免的。阿莫代伊说,公司将继续投入 AI 对齐与测试工作,开发理解 AI 行为的新方法,使其始终处于人类控制之下。
「还有很多工作要做,最困难的安全工作还在我们前面,」他说,「让公司得以构建最强大 AI 系统的那批杰出人才,需要比现在更加倾力于反复核查这些 AI 系统是否安全、是否仍处于人类控制之下。」
「而且我要明确表示:我们将放缓 AI 系统的训练和部署节奏,花多长时间都可以,直到我们有信心它们是安全的、并将继续处于人类控制之下,」阿莫代伊总结道。
他的姐姐、Anthropic 联合创始人达尼埃拉·阿莫代伊周四在接受 CNBC 采访时呼应了这些观点,她表示尽管风险真实存在,但 AI 的前景同样「令人难以置信」。
「我们的创立正是基于这样的理念:减轻这些风险是我们的职责,而迄今为止我认为我们做得非常出色。显然我们面前还有更多工作,但我们坚定投入安全,」她补充道。以下为达里奥·阿莫代伊开市致辞的全文:
谢谢达尼埃拉。我和我的联合创始人们创立 Anthropic,是因为我们相信,我们这个时代最强大的技术应当为造福人类而建。达尼埃拉和我失去了我们的父亲,他死于一种仅仅几年后就变得可以治愈的疾病。我最初从事生物学,希望让未来的治愈来得更早一些。在实验室里,我看到了科学家们在理解疾病、开发新疗法时要面对的茂密荆棘。许多能砍开这片荆棘的科学工具——基因编辑工具、基因合成工具、用光控制脑细胞的工具——最初都只是想法。换句话说,它们来自思考,来自智能。
人类智能已经让鼠疫、天花和小儿麻痹症在世界上大部分地区成为历史。但对许多患者和家属来说,其他疾病的进展太慢了。从一个好想法走到一款疗法可能要几十年。从首次发现 DNA 中一种奇特的重复序列,到首款利用 CRISPR 治疗疾病的疗法获批,花了许多年。自然界充满这样的规律,但我们的智能还太少,无法破解其中大部分。科学家太少、时间太紧。而现在,我们可以构建这种智能。无论是蛋白质折叠、药物设计、癌症遗传学还是临床试验管理,生物和医学各领域的科学家都发现,Claude 能帮他们把研究时间压缩到仅仅几年前所需的一小部分。我相信,足够强大的 AI 与人类协同工作,可以把一个世纪的科学和医学进步压缩进十年。
我不想言之过早。眼下我们只有早期结果。实验和临床试验仍然需要时间,虽然这些过程缓慢而笨重,但我相信 AI 能大幅加速它们。我们希望未来更少的家庭会与治愈擦肩而过几年。医学只是一个格外生动的例子,Claude 还有许多其他应用。我们的客户——全球最有雄心的公司、非营利组织和个人——已经在把我们构建的智能用于刺激经济增长、帮助人们摆脱贫困、保护民主与自由社会,甚至让车管所这样的日常服务运转得更好。能与这些人并肩工作我们深感自豪,我也对我们未来能一起做成的事极为乐观。
与此同时,我们始终坦诚:这项技术有非常现实的风险。从个人或民族国家滥用这项技术,到经济动荡,再到 AI 系统失控。我们讨论这些风险,不是因为我们认为它们不可避免、不管怎样都要继续建,而是因为我们认为它们可以避免、而且我们能够避免。能否避免取决于构建 AI 的人做出的选择。如果我们在安全上几乎不用心,AI 的走向,与我们痴迷于安全时的走向,两者有天壤之别。而对安全与公共利益的痴迷从一开始就写进了 Anthropic 的基因:从防范生物与网络风险的安全措施,到对齐训练与测试,再到像拍 X 光片一样透视我们的模型,Anthropic 开创了一系列理解、引导 AI 行为并使其保持在人类控制之下的方法。还有很多工作要做,最困难的安全工作还在我们前面,让公司得以构建最强大 AI 系统的那批杰出人才,需要比现在更加倾力于反复核查这些 AI 系统是否安全、是否仍处于人类控制之下。
而且我要明确表示:我们将放缓 AI 系统的训练和部署节奏,花多长时间都可以,直到我们有信心它们是安全的、并将继续处于人类控制之下。我们不会向商业或政治压力低头。今天让公司的财务基础更加稳固,而这只会更加坚定我们做正确事情的决心。如果我们能证明在安全上做出正确选择的同时,也能建立起一家极其成功的公司,我们行业里的其他公司也会受到鼓舞去做同样的事。我们把这称为一场「逐顶竞赛」(race to the top)。
当这场逐顶竞赛正常运转时,哪家公司的模型最好就不再重要。人人都是赢家,因为人人都在安全地构建。这场逐顶竞赛在领跑者的带动下运转得最好,我们完全希望并期待自己这样做。但目标始终是让整个行业变得更好,无论 Anthropic 在任何时刻是赢还是输。机器智能的出现是人类历史上为数不多的关键时刻之一,我们有一个难得的机会把它塑造得更好。谢谢。