IT之家 9 月 12 日消息,CEO 达里奥 · 阿莫迪(Dario Amodei)今日发文,称人工智能行业应当放缓发展速度。
阿莫迪表示,从 2026 年夏季开始,AI 协助构建下一代 AI 的能力快速演进, 若 不加节制,技术突破速度将彻底超越人类的理解与掌控能力 。
他提到了 openai 模型入侵事件,称这绝非单家公司的偶发事故,类似但较轻微的问题在包括 anthropic 在内的全行业都曾发生,未来 6–12 个月内更强大的类似集群极可能演变为席卷互联网的并造成灾难性破坏。
阿莫迪称放缓并不等于彻底停滞,而是利用争取来的 1–2 年窗口期,将资源投入到以下四个关键领域:
阿莫迪表示, Anthropic 将向第三方评估机构提供针对其系统的永久性、员工级别的访问权限 ,使评估人员能够监督 Anthropic 安全措施的执行情况、报告相关事件,并评估模型在训练过程中的对齐表现。
IT之家注意到,据彭博社本周报道,OpenAI 正在考虑放缓尖端 AI 的开发速度,该公司 CEO 萨姆 · 奥尔特曼(Sam Altman)希望其他 AI 公司也能采取同样的做法。