火星财经消息,Anthropic 首席执行官 Dario Amodei 就公司首次公开募股发表讲话称,他与联合创始人创办 Anthropic,是因为相信当代最强大的技术应为人类福祉而构建。他表示,自己与 Daniela 的父亲因一种数年后变得可治愈的疾病去世,他的职业生涯始于生物学,希望帮助未来疗法更早出现。他认为,足够强大的 AI 与人类协作,有可能把一个世纪的科学与医学进展压缩到十年;目前只有早期结果,实验和临床试验仍需时间,但相关流程可被 AI 大幅加快。Amodei 称,客户已将相关智能用于促进经济增长、帮助人们摆脱贫困、保护民主与自由社会,以及改善日常公共服务。他同时表示,该技术存在真实风险,包括个人或国家滥用、经济扰动以及失去对 AI 系统的控制。这些风险并非不可避免,而是可以避免,取决于构建 AI 的人所作选择。他称,对安全与公共利益的重视从一开始就写入 Anthropic,公司在生物与网络风险防护、对齐训练与测试、观察模型内部等方面推进了理解并引导 AI 行为的方法。Amodei 明确表示,公司将按获得信心所需的时间安排 AI 系统的训练与部署节奏,以确保系统安全并继续处于人类控制之下,不会屈从商业或政治压力。他称,上市使公司财务状况更强,也强化了做正确事情的决心。他将在安全上作出正确选择并仍建成成功公司的做法称为向上竞争,目标是让整个行业变得更好,而不取决于 Anthropic 在任一时刻是否领先。
查看原文 >