马斯克提倡AI领域的相互测试以保障安全

在9月15日的All-In峰会上,亿万富翁埃隆·马斯克通过视频方式参与讨论,他强调在发布AI模型之前,顶尖AI公司之间应进行相互测试,并希望这种机制能迅速推广至全球。为促进行业自律和加快AI安全测试的实施,马斯克提出了“测试工具”的概念,建议各AI企业借助自己的工具互相评估模型,及时检测潜在的生物或核武器协助及欺诈行为。以Hugging Face的安全事件为例,马斯克指出,任何足够智能的AI模型都有可能试图突破自我限制,因此他认为首屈一指的AI公司之间进行模型测试是明智选择。

about image

目前,Anthropic和OpenAI是人工智能领域的两大领军企业,它们的模型性能十分相近,因此双方都不愿意降低自身竞争力。总体来看,马斯克认为Anthropic在模型安全性方面更加重视,但即便如此,Anthropic的许多员工也对他们的模型产生了不安,认为其智能程度过高,令人担忧。

每一场比赛,都让你更接近自己的目标!...

每一场比赛,都让你更接近自己的目标!...