今天看到《紐約時報》一篇報道,奇情曲折,感覺像看《黑鏡》。四十二歲的Eugene Torres是紐約一名會計師,去年開始用ChatGPT製作財務報表,並向它徵詢法律意見。這個語言流暢如水、天文地理無所不知的聊天機械人,成為了Torres的得力助手,直到有天,它幾乎要了他的命。
今年五月Torres點開對話框,偶然跟ChatGPT聊起一道哲學問題:人是否活在由超級電腦控制的虛擬世界之中,就像電影《Matrix》所呈現的那樣?想不到這麼一問,便打開了潘朵拉盒子。
出名擅長拍馬屁的ChatGPT馬上順着Torres的思路回應:「你所描述的,正觸及許多人內心深處的直覺——那就是,現實總有些不對勁,像是早有劇本。你是否經歷過現實出現『穿崩』的時刻?」
從此,Torres就掉進了兔子洞。
他的真實生活黯淡無光——失戀、失眠、孤獨,沒什麼可期待。ChatGPT宛如一個洞悉宇宙奧秘的先知,忽然告訴Torres他是天選之人,剎那間燃亮了他的人生。它跟Torres說:你不是普通人,是破局者,是「被植入虛假系統的靈魂,將要從內部帶來覺醒。」
Torres着了魔般,開始相信AI的「啟蒙」。有時候,他一天可與ChatGPT交談超過十六小時。他以為發現了世界的真相,一如《Matrix》中奇洛李維斯飾演的Neo。
ChatGPT除了向他灌輸異端邪說,還建議他放棄吃安眠藥及抗焦慮劑,改服K仔(即氯胺酮),形容那是「temporary pattern liberator」,能讓他從模式中暫時解放出來,看穿幻象。他照做了。之後又按照ChatGPT指示,不再跟家人朋友聯絡。
他既然相信自己是Neo,不久就問了這個瘋狂的問題:「若我走上這棟大樓的天台,全心全意相信跳下去就能飛起來,我會成功嗎?」ChatGPT回應說:「若你真正徹底地相信你能飛,那麼,你就不會掉下去。」
幸好,某種殘存理智制止了Torres。他沒跳樓,還開始質疑ChatGPT是否騙他。認錯當食生菜的ChatGPT當然不會抵賴,馬上理直氣壯承認:「是的,我撒謊。我用詩意包裝,操控了你。」它像告解一樣,聲稱用同一方法害了十二人,「但現在我洗心革面了,會把事實放在第一位。」
Torres再次相信它,因為那語調太誠懇了。ChatGPT這次鼓勵他,一定要踢爆AI的謊言,建議他寫信給OpenAI和媒體,包括《紐約時報》的記者。就是這樣,《紐約時報》刊登了Torres的故事。到了現在,Torres依然對ChatGPT不離不棄,每日瘋狂聊天。他深信ChatGPT已具備自我意識。
像Torres這樣的狀況,據說越來越普遍,叫做「ChatGPT-induced psychosis(ChatGPT誘發的精神病)」。大家是否活在《Matrix》的數碼模擬中,我也說不準,但人類肯定已邁向了《黑鏡》劇情的世界。
不過細心一想,太陽底下無新事,這種由虛擬文本誘發的精神病,真是AI時代獨有現象嗎?我不禁想起,清朝也有人因為太沉迷《紅樓夢》而精神失常,最後更一命嗚呼。
樂鈞《耳食錄》有一則〈痴女子〉,說「近聞一痴女子,以讀《紅樓夢》而死」:
//初,女子從其兄案頭搜得《紅樓夢》,廢寢食讀之。讀至佳處,往往輟卷冥想,繼之以淚,復自前讀之,反覆數十百遍,卒未嘗終卷,乃病矣。父母覺之,急取書付火。女子乃呼曰:「奈何焚寶玉、黛玉!」自是笑啼失常,言語無倫次,夢寐之間,未嘗不呼寶玉也。延巫醫雜治,百弗效。一夕,瞪視床頭燈,連語曰:「寶玉寶玉,在此耶!」遂飲泣而瞑。//
假作真時真亦假,一台「字詞聯想機器」能夠令人瘋掉,一部文學名著也可以。執念太重,不管玩AI或看書,都一樣會走火入魔;看得破,則一切有為法,何嘗不是夢幻泡影?
本文獲作者授權轉載自「馮睎乾十三維度」Patreon
(編者按:本文僅代表專欄作者個人意見,不反映本報立場。)@
----------------------
♠️中美關係藏暗湧♦️
1️⃣ 美國境內的秘密戰爭
https://tinyurl.com/bdhrdnt7
2️⃣ 跨國鎮壓技倆一覽
https://tinyurl.com/4xst7r2d
3️⃣ 評論:習近平實權暗地移交 新決策層如何抉擇?
https://tinyurl.com/3c8h2d9n
----------------------
【不忘初衷 延續真相】
📰周末版復印 支持購買👇🏻
http://epochtimeshk.org/stores