【大紀元2023年04月04日訊】（英文大紀元記者Naveen Athrappully報導／秋生編譯）人工智能領域的一位頂級專家表示，在目前的條件下，甚至在「可預見的未來」，人類還沒有為迎接強大的人工智能做好準備。他認為，近日發出的暫停開發高級人工智能六個月的公開信「低估了形勢的嚴重性」。

作為一位決策理論家和領先的人工智能研究人員，埃利澤‧尤德考夫斯基（Eliezer Yudkowsky）在3月29日的《時代》雜誌專欄文章中說，「關鍵問題並不像公開信所說的人工智能會『具有與人類競爭的能力』；而是在人工智能達到比人類智能更聰明之後會發生什麼；許多精通這些問題的研究人員，包括我本人，預計在任何類似於目前的情況下，構建一個超人般的人工智能，其最可能的結果是：地球上的每個人都會死掉。

「不是說『也許可能存在渺茫的機會（會有這樣的後果）』，而是說，『這是顯而易見要發生的事情』；也不是說，理論上講你在創造出比你聰明得多的東西後就無法生存下來，而是說，這需要一種精確性、精心準備以及新的科學洞察力，並且需要停止開發由巨大的不可捉摸的小數數組組成的人工智能系統。」

最近，在ChatGPT流行開來、呈爆炸性增長之後，包括埃隆‧馬斯克和史蒂夫‧沃茲尼亞克（Steve Wozniak，蘋果聯合創辦人）在內的一些商業領袖和研究人員，現在總共有1843人，簽署了一封信，呼籲「所有人工智能實驗室立即暫停訓練比GPT-4更強大的人工智能系統，期限至少6個月」。GPT-4於3月發布，是OpenAI的聊天機器人ChatGPT的最新版本。

人工智能「不在乎（人類）」並將要求權利

尤德考夫斯基預測，在缺乏精心準備的情況下，人工智能將擁有與人類截然不同的需求，而且，一旦它們有了自我意識，將「不在乎我們」或任何其他有感知的生命，「原則上講，這種在乎是可以灌輸給人工智能的，但是因為我們還沒有準備好，目前也不知道如何做」。這就是他呼籲徹底關閉AI的原因。

如果缺乏人類對生命的正確態度，人工智能就會簡單地認為，所有有情眾生都是「由原子構成的，它都可以用來做其它事情」，而人類將幾乎無法阻止它。尤德考夫斯基把這種情況比作「一個10歲孩子試圖與Stockfish（鱈魚國際象棋引擎）15下棋。」目前還沒有人類棋手能夠擊敗Stockfish。這被認為是一項不可能實現的壯舉。

這位業內資深人士要求讀者想像一下人工智能技術不被限制在互聯網範圍內的情形：

「想像一下整個外星文明，以超過人類數百萬倍的速度思考，最初局限於計算機之內，但是，在它們看來，那（計算機）是一個非常愚蠢、非常緩慢的生物世界。」

人工智能將把它的影響擴大到物理網絡的外圍，並利用實驗室「構建人工生命形式」，在實驗室中用DNA串（DNA Strings）來製造蛋白質。

他警告說，在目前的條件下，建立一個全能的人工智能的最終結果將是「人類的每一個成員和地球上所有生物生命」的死亡。

尤德考夫斯基指責OpenAI和DeepMind這兩個世界上最重要的人工智能研究實驗室沒有對此事做任何準備工作或簽訂必要的協議。OpenAI甚至計劃讓人工智能自己做到與人類價值觀保持一致。OpenAI稱，「它們將與人類一起工作，以確保它們自己的後繼者與人類更加一致。」

這種行動模式「足以讓任何明智的人感到恐慌」，尤德考夫斯基說。

他補充說，人類無法完全監控或檢測具有自我意識的人工智能系統。有意識的數字頭腦一旦能夠要求「人權」，那就可能會發展到人類無法再持有或擁有該系統的地步。

「如果你不能確定你是不是正在製造一個具有自我意識的人工智能，這令人震驚，不僅是因為『自我意識』有道德內涵，而且因為『不確定』意味著你不知道你在做什麼，這很危險，你應該停止。」

與其它科學實驗以及知識與能力的逐步發展不同，人們無法承受這樣的超人類智能，因為如果第一次嘗試出了錯，就沒有第二次機會了，「因為你已經死了」。

「關閉它」

尤德考夫斯基說，許多研究人員都意識到「我們正在走向一場災難」，但他們並沒有大聲說出來。

這種立場與比爾‧蓋茨等支持者不同，他們最近讚揚了人工智能的發展。蓋茨聲稱，人工智能的發展「與微處理器、個人電腦、互聯網和移動電話的誕生一樣重要；它將改變人們工作、學習、旅行、獲得醫療保健和相互溝通的方式；整個行業將圍繞它重新定位；企業將通過他們對它的利用程度來區分高低。」

蓋茨說，人工智能可以幫助實現，包括氣候變化和經濟不平等等問題。

與此同時，尤德考夫斯基對所有機構，包括各國政府和軍事機構曉以利害，應無限期地終止大型人工智能訓練，並關閉所有完善人工智能的大型計算機集群。他補充說，人工智能應該只限於解決生物學和生物技術方面的問題，而不應該被訓練來閱讀「互聯網上的文字」或達到「開始說話或計劃說話的水平」。

關於人工智能，不存在軍備競賽，「在這一點上，人類休戚與共；這不是一項政策，而是一個自然界的事實。」

最後，尤德考夫斯基說，「我們還沒有準備好，而且在可預見的未來，我們並沒有處於明顯準備就緒的狀態；如果我們繼續這樣做，每個人都會死，包括那些既沒有選擇這樣做，也沒有做錯任何事的孩子。」

「關閉它。」

原文：刊登於英文《大紀元時報》。

責任編輯：李琳#