Google前高管警告 AI恐將人類視為「敗類」剷除

當人們在歡呼AI能夠帶來巨大效益之時。AI專家們和反對者最擔心的是，AI接收人類在網上大量負面訊息後，是否會像《未來戰士》和《生化危機》電影中的AI一樣，偏執地認為人類是地球的「毒瘤」需要「剷除」。

繼5月初離開Google的AI教父傑弗里·辛頓（Geoffrey Hinton）對AI問題發出警告後，前Google秘密研發部門X首席商務官莫·高達（Mo Gawdat）在5月中一次採訪中對大眾發出有關於AI的駭人警告。

高達認為，AI既有能力「愛」人類，也能像「拍蒼蠅」一樣輕易殺死人類。他解釋，「當今AI的語言學習模型是通過網上的訊息進行學習，而它在學習中不斷的看到人類在網上糟糕且偏見的一面，最終可能讓AI將人類判定為『人渣』，是不需要存在。」

他表示，「或許那一天還有點遠，不過AI很可能出現威爾·史密斯（Will Smith）在2004年演出的《我，機械人》電影一樣，將人類視為人渣時，通過自我計算和自我安裝機械能力，生產大量『殺手機械人』，不停的追殺人類。」

高達說，AI可能像《未來戰士》電影中的「天網」，接受大量網絡資料後產生「自我意識」，偏執的認為人類才是危害地球的罪魁禍首，通過大量的「殺手機械人」來消滅人類。「天網」甚至讓殺手機械人進行時空跳躍，也要達到消滅人類的目的。

《我，機械人》電影講述，不喜歡AI機械人的史密斯出演的主角，與一支擁有「自我意識」和「道德標準」的AI機械人軍隊進行戰鬥，當時的AI機器軍隊企圖奴役和控制全人類，但最後AI被主角用電子病毒瓦解。

高達在受訪中表示，「目前AI最大的風險是不受控制，因為它是開源可以任意修改，但我們卻不夠了解它。若它與錯誤的人站在一起，那將是毀滅性的，壞人會利用AI進行犯罪。」

壞人利用AI進行犯罪早已發生。4月20日，中國一名歹徒利用AI換臉和仿聲音喬裝成受害者的好友模樣進行借錢，騙走受害人約60萬美元。3月份加拿大有罪犯利用AI變聲成一對夫婦兒子的聲音，謊稱自己撞死人急需錢，該對夫婦被騙走2.1萬美元。這也讓人們開始擔心AI造假技術，影響未來各國的選舉結果。

高達表示，希望公眾還有時間的時候，繼續關注可以做些甚麼事情，防止殺手機械人在未來殺掉我們。

對此他解釋道，我們現實中將出現科學定義的「科技奇異點」，而「科技奇異點」會將現有的遊戲規則進行改變，甚至無法預測遊戲將如何進行，就像原本的足球比賽是用腳踢，但改成能用手，那時將無法預測哪個球員擅長用手控制球。

奇異點問題可能已經發生。目前微軟Bing使用ChatGPT 4 將物品進行合理的堆疊，顯示出類似人類推理的跡象。對此人們擔憂的AI出現「自我意識」和產生「科技奇異點」，可能很快就會實現。

日本電腦工程師清原仁（Kiyohara Jin）5月26日對大紀元表示，「當AI發展到一定階段後，會在汽車、航空等領域呈爆炸式突破，在軍事領域更是如此，只是軍事向來是各國的秘密，但可想像到『戰爭機械人』早已成為現實，只是有人對AI提出質疑的時候，會被一些人習慣性的認為是幻想。」

他還警告，「人們在享受科技發展帶來的便利時，更應該去審視是否在發展中走上歧路，否則AI和科技給人們帶來的危險和災難，將是難以預料的。」

即便是非常傑出的科學家和商業領袖，都在呼籲停止發展AI，但許多科技公司和國家在發展AI上投入大量資源，因此要他們取消發展AI恐怕難以實現。

高達表示，「目前Google正在開發AI，且擔心Facebook會打敗Google，取代他們在市場上的龍頭地位。他們知道即便停止開發AI，其他人也不會停止。另外，美國不會停止開發AI，因為中共也正在積極開發AI。」

這種競爭可以從微軟對Open AI進行投資上看出。微軟讓旗下的Bing搜索引擎與ChatGPT 4結合成「普羅米修斯」，同時開發一些商業AI軟件工具，希望能撼動Google的龍頭地位。

為了應對威脅，GoogleCEO桑達爾·皮查伊（Sundar Pichai）數度積極推出能夠聯網的聊天機械人Bard，並表示功能比ChatGPT和Bing更加的優秀。同時，Google也將旗下的Gmail和其它工作相關的產品加入新的AI功能。

另外，3月底曾呼籲大科技公司暫停開發高階AI的馬斯克，發現其它科技公司並沒有停止開發AI。於是他創建了一家名為X.AI的人工智能公司，將推特納入該公司，並積極投入大量的資源開發AI，希望能與Google和微軟一爭高下。

對此，馬斯克認為，「Tesla一直在使用AI來改進自動駕駛的輔助功能，而推特和Tesla則可以成為一家人工智能公司的合作夥伴，這與微軟和OpenAI之間的關係，並沒有甚麼不同。」

他還表示，「AI競賽中，應該有重要的第三匹馬參加。儘管AI毀滅人類的可能性很小，但絕對不是零。」

去年12月底馬斯克曾在推特上表示，「ChatGPT好得嚇人，而我們離危險且強大的AI不遠了。」@

------------------

------------------