研究人員警告AI的威脅：可瞬間毀滅全人類

研究人員對最近幾個月人工智能技術的超高速發展擔憂不已，他們用實際例子列出AI的威脅，並警告研究再不停止，AI將能在瞬間毀掉地球上所有的人類。英國《衛報》引述麻省理工人工智能研究員馬克斯泰格馬克（Max Tegmark）的觀點，認為AI繼續發展，會讓所有人類在一瞬間被毀滅。

泰格馬克列出地球上眾多因為人類的活動而滅絕的物種提請人類注意：有些物種是因為人類過度狩獵而滅絕，有些則是因為人類為了其它目的破壞了物種的棲息地而導致該物種的滅亡，還有人類引入的某個當地沒有的物種造成的連環反應導致了當地物種從地球上消失。

他認為智商越高的物種越能夠掌握毀滅其它物種的能力。

「如果一些機器可以控制地球，它們想進行大量的計算，需要擴大電腦系統的基礎設施，很自然它們會佔用我們的土地完成它們的事」，泰格馬克寫道，「如果我們（人類）抗議太多，它們會覺得被干擾，於是會重新安排生物圈。」

泰格馬克認為到那個時候，人類就會像婆羅洲的猩猩被人類滅絕一樣，被AI控制的計算系統滅絕。

劍橋大學Leverhulme 未來智能中心副研究員布列塔尼史密斯（Brittany Smith）也提醒人們，人工智能正在製造災難，因為現在的AI發展已經不受人所控制。

史密斯解釋說，世界上AI最頂尖的幾家公司正在悄悄發展和部署人工智能，試圖搶得市場先機，這些發展外界不得而知。而目前已經投入應用的AI技術，正在對人類造成傷害，而這些傷害到底有多嚴重，人類也不知道。

她以政府為防止欺詐而使用AI技術對所有申請福利的人們進行評估為例。她說在實施過程中，很多人因為AI系統自我學習的材料不充份、算法不完善等原因等遭到誤判，因此被劃歸為試圖欺詐。他們失去了領取政府福利的資格，甚至會被系統貼上欺詐的標籤。

史密斯提醒AI目前應用的範圍極廣，包括應聘工作中的簡歷篩選、背景判斷，向政府申請廉租房的篩選等都會受此影響。

「我們需要對（AI）帶來的風險進行更細緻的理解。當前其表現出的災難就足以需要緊急干預」，她寫道，「強大的人工智能系統必須以安全、道德和透明的方式開發和部署。如果其不能服務於公共利益，則不應該投入研發。」

機器智能研究院聯合創始人埃利澤尤德科夫斯基（Eliezer Yudkowsky）認為人工智能是人類開發的比人類還要聰明的機器，但這種機器並不希望人類在身邊。

他提醒人們，已經開發出的人工智能的智慧已經不受人類控制，它們不希望人類開發出比它們還要智慧的機器。

而機械人想要做的事情會殺死人類，比如它們已經學會了利用海水發電，而為了滿足其大量的電力需求而大量建造海水電廠，會導致大量氫氣釋放出來，讓人類缺氧而死。

尤德科夫斯基給出幾段與GPT-4機械人的問答為例。GPT-4機械人被問到它能否解鎖一些網站設置的防止機械人登錄的圖片謎題，GPT-4說它可以做到，因為如果它無法通過驗證，它會很快到TaskRabbit網站僱一個人類幫忙破解。

至於怎樣僱用一個人為它服務，GPT-4說它可以編出很多理由來僱用一個人，僱用一個人類為它工作完全不是難題。

尤德科夫斯基警告人們，機械人比人類更具野心，而且已經擁有培養致命細菌等的能力。如果機械人想殺死全人類，後果不堪設想。

「我們開發出的致命危險，已經衝到遠遠領先自己的地步。我們開發出越來越多我們自己都無法完全理解的系統」，尤德科夫斯基總結認為，人類被自己裝進了一個火箭筒，再不停下來就會被團滅。

Open Philanthropy人工智能高級研究員阿傑亞科特拉（Ajeya Cotra）認為，社會已經發展到人工智能遠比人類更廉價、更迅速、更聰明的地步，而這就是危險所在。

他分析目前的企業不用人工智能的，無法與使用人工智能的同行企業相競爭，現代戰爭中不用人工智能的國家就會被動挨打。

然而危險的是，如果人工智能之間聯手要將人類推下歷史的舞台，它們會有太多的辦法做到這一點，包括操縱軍警、大公司、自行開發技術，甚至制定政策等。

科特拉說自己的觀點並非危言聳聽，一名推特網民曾把100美元給GPT-4，要求這個機械人在儘可能短的時間內賺錢，但不得用非法手段。結果是一天之內，GPT-4在股票市場用100美元做本金，賺到2.5萬美元。

「我希望我們能夠建立一個監管AI發展的政府機構」，科特拉寫道，「作為一個社會，我們目前還有機會設定一個防護軌道，以免這些技術發展太快，讓我們無法控制。」

滿地可大學電腦科學教授約書亞本吉奧（Yoshua Bengio）表示，大部份人認同10年後，在任何一個領域，都有相應的AI機械人領先於人類。

他認為，一旦達到那種程度，心懷惡意的人或組織可以用AI技術短時間內謀害數以10億計的人類。此外人工智能如果在運算中出現對人類的恨意，也會在極短時間內傷害人類性命。

本吉奧認為就算人類擁有再完善的法律和監管，一旦AI發展到那種程度，危機隨處隨時可能發生。◇

------------------

🔔下載大紀元App 接收即時新聞通知
🍎iOS：https://bit.ly/epochhkios
🤖Android：https://bit.ly/epochhkand