包括OpenAI、Google DeepMind和Anthropic的首席执行官在内的数十位人工智能(AI)专家,最近签署了由人工智能安全中心(CAIS)发布的一份公开声明。
声明包含这样一句话:“减轻AI灭绝的风险应该成为全球优先事项,与大流行病和核战争等社会规模的风险并列。” 签署者名单囊括了AI领域的诸多知名人士,包括被誉为“AI教父”的Geoffrey Hinton,UC Berkeley的Stuart Russell,以及麻省理工学院的Lex Fridman。音乐人Grimes也名列“其他知名人士”类别中。
虽然声明表面上看似无害,但其潜在信息在AI社区内引发了争议。越来越多的专家认为,当前的技术可能或必然会导致人工智能系统的出现或发展,这些系统可能对人类构成生存威胁。
然而,这一观点遭到另一派专家的强烈反对。例如,Meta首席AI科学家Yann LeCun多次表示,他并不认为AI一定会变得无法控制。Google Brain联合创始人、前百度首席科学家Andrew Ng等持不同意见的人认为,AI不是问题,而是解决问题的答案。
另一方面,像Geoffrey Hinton和Conjecture首席执行官Connor Leahy这样的专家则认为,人类水平的人工智能是不可避免的,因此现在是采取行动的时机。然而,目前尚不清楚声明的签署者具体呼吁采取哪些行动。但几乎所有主要AI公司的负责人以及学术界的著名科学家都参与签署,表明他们的意图并非阻止这些潜在危险系统的发展。
本月早些时候,OpenAI首席执行官Sam Altman(上述声明的签署者之一)在参议院听证会上首次亮相,就AI监管问题发表证词。他的发言引发了广泛关注,因为他大部分时间都在敦促立法者监管他的行业。
此外,Altman的Worldcoin项目近期也成为媒体焦点。该项目结合了加密货币与身份识别技术,并在最新的C轮融资中筹得1.15亿美元,使其三轮融资总额达到2.4亿美元。