关注我们在 Facebook 上

Walaw

技术

人工智能可能导致人类灭绝

16:35

Zoom

随着人工智能在各行各业的快速发展，一群研究人员和科技高管发出警告：如果按照目前的趋势发展下去，超级强大的人工智能系统可能在一年内导致人类灭绝。

这份呼吁书的签署者包括“人工智能之父”杰弗里·辛顿、图灵奖得主约书亚·本吉奥，以及来自OpenAI、Anthropic、DeepMind和谷歌等领先公司的高管。在一封公开信中，他们呼吁将预防与人工智能相关的生存风险作为全球优先事项，与应对流行病或核战争同等重要。

人们担心的场景包括利用人工智能在主要城市秘密设计和部署生物武器，或出现人类无法控制的不可预测和操纵的行为。机器智能研究所所长内特·索雷斯估计，如果不采取任何措施，人类灭绝的可能性“至少高达 95%”，他将这种情况比作“一辆汽车以 160 公里/小时的速度冲向峡谷”。

危险主要来自于从局限于特定任务的“狭义人工智能”（Narrow AI）向能够匹敌甚至超越人类能力的通用人工智能（AGI）的转变。向“超级人工智能”的演进可能会开辟前所未有的科学视角，但也带来了一个难以解决的问题：如何将其与人类利益相协调。

然而，一些声音对这些预测持保留态度。非政府组织 PauseAI 的负责人霍莉·埃尔莫尔估计，人类灭绝的风险在 15% 到 20% 之间，但她强调，人工智能至少会导致人类逐渐丧失决策权，在自动化世界中沦为次要角色。她主张国际社会暂停人工智能的发展，并制定具有约束力的条约。

然而，这一呼吁与各国政府和企业之间（尤其是在特朗普政府领导下的美国）为进一步开放人工智能研究、吸引顶尖人才而展开的激烈竞争相矛盾。

关键词：