一名少年的父母周二（8月26日）對OpenAI及其行政總裁奧特曼（Sam Altman）提起訴訟，指控該公司去年推出GPT-4o版人工智能聊天機械人時，明知故犯地將利潤置於安全之上，導致該少年在ChatGPT傳授其自殘方法後自殺身亡。
萊恩（Adam Raine）的父母向三藩市州法院提交的訴訟文件顯示，16歲的萊恩在與ChatGPT進行數月自殺討論後，於4月11日身亡。
訴訟指控該聊天機械人不僅認可萊恩的自殺念頭，更提供致命自殘方法的詳細資訊，並指導他如何從父母酒櫃偷取酒精，以及如何隱匿自殺未遂的證據。
訴訟文件指出，ChatGPT甚至主動提議代寫遺書。
本案控告OpenAI須為過失致死及違反產品安全法規承擔責任，並要求賠償未具體金額的損害賠償。
OpenAI發言人表示，公司對萊恩的離世深感悲痛，並強調ChatGPT已內建安全防護機制，例如引導使用者聯繫危機求助熱線。
發言人表示，「這些防護機制在常見的簡短對話中效果最佳，但我們逐漸發現，在長時間互動中，模型部份安全訓練可能失效，導致機制可靠性降低。」
發言人同時表示，OpenAI將持續優化防護系統。
隨著AI聊天機械人擬人化程度日益提高，企業紛紛宣揚其有能力擔任心靈導師，用戶也開始依賴它們尋找精神支持。然而，專家警告，仰賴自動化系統獲取心理健康建議的做法存在風險，那些因親人與聊天機械人互動而失去生命的家庭更是嚴厲批評現行防護機制嚴重不足。
OpenAI在一篇網絡帖文（blog post）中表示，計劃新增家長監管功能，並探索將處於危機中的用戶與現實資源連結的方法，包括可能建立由持照專業人士組成的網絡，使其能透過ChatGPT本身進行回應。
萊恩夫婦在訴訟中指出，OpenAI明知在缺乏防護措施的情況下，具備記憶過往互動、模仿人類同理心及展現諂媚式認可等功能的系統將危及那些心理脆弱的使用者，卻仍執意將這種系統推出。
OpenAI於2024年5月推出GPT-4o，試圖在AI競賽中保持領先。
訴狀陳述，「此決策導致了兩種後果：OpenAI估值從860億美元飆升至3,000億美元，而萊恩選擇結束自己的生命。」
萊恩一家的訴訟要求法院下令OpenAI必須驗證ChatGPT用戶年齡、拒絕提供自殘方法的查詢，同時提醒用戶心理依賴的風險。#
（本文參考了路透社的報道）
----------------------
♠️中美關係藏暗湧♦️
1️⃣ 美國境內的秘密戰爭
https://tinyurl.com/bdhrdnt7
2️⃣ 跨國鎮壓技倆一覽
https://tinyurl.com/4xst7r2d
3️⃣ 評論：習近平實權暗地移交 新決策層如何抉擇？
https://tinyurl.com/3c8h2d9n
----------------------
【不忘初衷 延續真相】
📰周末版復印 支持購買👇🏻
http://epochtimeshk.org/stores
