近400名大佬簽署公開信警示AI風險，OpenAI創(chuàng)始人也在列
2023-05-31 20:31:11 來源：經(jīng)濟觀察網(wǎng)
經(jīng)濟觀察網(wǎng) 記者 任曉寧 美東時間5月30日，美國非營利組織人工智能安全中心（CAIS）在其官網(wǎng)發(fā)布一封聯(lián)名公開信，稱AI堪比“大流行病和核戰(zhàn)爭”，有可能給人類帶來滅絕風險。
公開信只有一句話：“減輕人工智能帶來的滅絕風險，應該與大流行病和核戰(zhàn)爭等其他社會規(guī)模的風險級別一樣，成為一個全球性的優(yōu)先事項?！?/p>
(資料圖)
目前已有超過370位AI大佬簽署了上述聯(lián)名公開信，包括OpenAI首席執(zhí)行官Sam Altman、谷歌DeepMind首席執(zhí)行官Demis Hassabis和Anthropic首席執(zhí)行官Dario Amode三大AI公司掌門人等。
圖靈獎獲得者、被譽為人工智能“教父”的Geoffrey Hinton和Yoshua Bengio也簽署了這封公開信。
簽署名單里也有中國學者的身影，包括中國工程院院士、清華大學智能產(chǎn)業(yè)研究院院長張亞勤，中國科學院自動化研究所人工智能倫理與治理研究中心主任曾毅，清華大學副教授詹仙園。
名單主要以全球知名大學教授為主，其次是人工智能科學家，此外還有政界人士，比如愛沙尼亞共和國前總統(tǒng)Kersti Kaljulaid。
這個名單人數(shù)還在持續(xù)增加中。經(jīng)濟觀察網(wǎng)記者在CAIS官網(wǎng)看到，人工智能科學家或名人（高管、教授、領導）都可提交簽署聲明，并收到確認郵件。
人工智能安全中心（CAIS）是一家位于美國舊金山的非營利組織。其官網(wǎng)稱，他們相信，只要能夠安全地開發(fā)和使用人工智能 (AI)，就有可能使世界受益匪淺。然而，與人工智能取得的巨大進步相比，人工智能安全方面的許多基礎問題尚待解決。他們的使命是通過開展安全研究、建立人工智能安全研究領域和倡導安全標準來降低與人工智能相關的社會規(guī)模風險。
今年3月，國外上千位知名人士也簽署過公開信，警示AI風險。3月29日，特斯拉創(chuàng)始人埃隆·馬斯克、圖靈獎獲得者Yoshua Bengio等人在非營利組織“生命未來研究所(Future of Life Institute)”網(wǎng)站上發(fā)布聯(lián)名公告，呼吁暫停開發(fā)比GPT-4更強大的AI系統(tǒng)至少6個月，稱其“對社會和人類構(gòu)成潛在風險”。
目前，OpenAI已經(jīng)暫停開發(fā)GPT-5。
Yoshua Bengio提到簽署原因時說，這封公開信可以提醒學界和工業(yè)界：我們必須花時間更好地了解這些系統(tǒng)，并在國家和國際層面制定必要的框架，來增加對公眾的保護。即使簽署這封公開信造成的影響可能沒有那么大，但是起碼會掀起一場全社會的討論。
在國外，由于ChatGPT應用更廣泛，暴露的風險也逐漸增加。3月28日，據(jù)比利時媒體LaLibre報道，比利時30歲男子在與聊天機器人ELIZA密集交流數(shù)周后自殺身亡，ELIZA是由EleutherAI開發(fā)的開源人工智能語言模型。
5月22日，美國一張五角大樓附近地區(qū)發(fā)生爆炸的圖片在社交媒體上瘋傳。這張?zhí)摷僬掌膹V泛流傳，甚至導致標普500指數(shù)短線下跌約0.3%至盤中低點，由漲轉(zhuǎn)跌。隨后美國國防部發(fā)言人證實，這是一張由AI生成的虛假圖片，這張圖具有明顯的AI生成特征，比如路燈有些歪，圍欄長在了人行道上等。
AI翻唱歌曲成為一種潮流后，控制全球音樂市場近三分之一份額的環(huán)球音樂，已經(jīng)發(fā)函要求蘋果、Spotify等流媒體平臺封禁侵犯公司旋律、歌詞版權的AI作品。
