包括蘋果聯合創始人史蒂夫·沃茲尼克（Steve Wozniak）和維珍集團董事長理查·布蘭森（Richard Branson）在內的800多名知名人士，近日簽署了一份公開聲明，要求立即停止超級智能的開發。
「超級智能」是指在所有領域超越人類認知能力的人工智慧系統。
這個史無前例的聯合聲明警告稱，超越人類智能的人工智慧（AI）系統帶來了從經濟崩潰到人類滅絕的風險。該聲明等同於直接向OpenAI、Meta和其他科技巨頭正在大肆鼓吹的AI模型競賽「潑了一盆冷水」，可能成為AI行業的一個重大轉折點。
據悉，這份聯合聲明的簽名名單包含了世界上最有影響力的科技領袖、科學家和公眾人物，甚至就連被廣泛認為是現代人工智慧教父的約書亞·班吉歐（Yoshua Bengio）和傑佛瑞·辛頓（Geoffrey Hinton）也在其中。
「超級智能的前景已經引起了人們的關注，其影響從人類經濟的落伍和權力的剝奪，自由、公民權力、尊嚴和控制權的喪失，到國家安全風險，甚至可能導致人類滅絕，」簽名者用直言不諱的語言警告說。
這不僅僅是學術上的絕望。就在這份請願書發布之際，Meta將其人工智慧部門更名為「Meta超級智能實驗室」（Meta Superintelligence Labs），而OpenAI和馬斯克（Elon Musk）的xAI則陷入了一場越來越公開的競賽，看誰能首先實現人工通用智能。
但這些行業資深人士卻在此時呼籲「踩剎車」，希望不要發展太快。
不僅如此，這份聯合聲明簽名者名單的覆蓋範圍遠遠超出了矽谷。前國家安全顧問Susan Rice和前參謀長聯席會議主席Mike Mullen都簽名支持，這表明了對國家安全的嚴重擔憂。甚至連英國王妃梅根·馬克爾也出現在名單上，與特朗普的盟友史蒂夫·班農和格林·貝克一起——這種政治團結實屬罕見。
加州大學伯克利分校（UC Berkeley）的Stuart Russell是一位領先的人工智慧安全研究員，多年來一直在對超級智能發出警告，他幫助組織了這項工作。根據他之前的研究，挑戰不在於人類能否建立超級智能系統，而是一旦它們存在，人類能否控制它們。
該聲明呼籲全面禁止超級智能的發展，「直到公眾強烈支持並達成廣泛的科學共識，即它可以安全可控地進行。這是一個很高的標準，它可能會有效地凍結當前人工智慧開發的時間表。」
這份聯合聲明與此前任何相關警告都不同，這裡面的許多人都並非來自「外界」，恰恰相反，他們是建立了今天的人工智慧能力的研究人員和企業家。當班吉歐和辛頓之類的頂級科學家——他們的工作使現代大型語言模型得以實現——說「踩剎車」時，整個行業很可能會認真思考。
不過，接下來會發生什麼，可能取決於各國政府如何應對。歐盟已經在實施人工智慧法規，美國一直在探索人工智慧安全框架。這份請願書為立法者提供了藉口，可以對最先進的人工智慧研究實施更嚴格的控制。
