「謀殺預測」已經落地
「未來報告」是20多年前史提芬史匹堡有一套經典電影。故事講述2054年科技發展至巔峰，執法機構推行「先知」系統，用作推斷將會發生的兇殺案，並預先將準備犯罪者逮捕。當年應該沒有人想到，隨着AI的迅速發展，今天不但有能力製造出類似「先知」的系統，而且更走向落實執行階段。英國民間組織Statewatch近日披露，英國政府正在開發一套原名為「謀殺預測」的系統，律政部透過與警察合作，利用包括受害者、證人、精神健康、藥物使用等數據分析，製成演算法，評估兇殺案風險。相關部門稱這是研究項目，但組織指政府已制訂計劃執行。消息引起極大迴響，當中涉及道德倫理、個人敏感數據的使用、有否可侵害無罪假設的基本權利、法律執行界線、如何使用系統等。其實西班牙有類似系統VioGén，一旦情報顯示有人受到兇殺威脅，可利用系統評估威脅等級來進行資源調配對目標人物作出保護。公民社會通常有團體監察政府運作。群眾及議會可向政府施壓。在那些公民社會瓦解的地方，媒體及議會為政權服務，政權以行政手段限制公民查詢資料。政權極可能已有同樣計劃，民眾可被蒙在鼓裏。若權力不受約束，透過侵犯私隱強迫使用等手法取得民眾巨量數據，有能力將「未來報告」泛化成涵蓋政權認為不當的行為或思想。
關鍵是範圍及使用
推斷可能發生的罪案，倚賴的是演算法。罪案發生受許多因素影響，有多少因素還未知，因素可受外在環境迅速改變，難以準確掌握。個人行為有不確定性，並因個人過去經歷而輕易受一片資訊而改變。最近西班牙的相關系統，針對一個目標人物，利用35項數據，風險評為五級之中的第三級，結果目標人物仍被謀殺。正正由於影響行為的因素眾多，可成為過份收集個人及環境資訊的借口。事實上，各國正大量收集民眾數碼資訊，大量安裝監控鏡頭不在話下。中國香港警務處處長向市民表明，閉路電視今年會增至2,000部，還稱未來可能每走幾步有一部。較早前消息指鏡頭有收音功能更不排除有人工智能。演算法是需要不斷輸入資料不斷改進，而輸入的未必是簡單數字，可能牽涉一些較難捉摸的例如圖像、肢體行為、表情等，需利用AI尋找關係。AI需要訓練，偏頗輸入及訓練可以得出偏頗演算法，甚至可刻意製造出想要的結果。一旦「未來報告」成形，就有泛化至各種罪行及濫用的風險，尤其是極權地方，按政治需要可將問題升格至國安的層面，含糊不清的法律提供基礎入罪，而演算法就可用作提供「證據」。筆者已知有AI公司提供行為預測模型，用作監控及保安用途，擴充「未來報告」已經是實施之中。
嚴格控制數碼足跡
讀者可問問各大AI模型，假設全面及長期掌握一個人的行為資料，AI能否預測某人的下一步行為？AI回答「可行」，同時會告知一些限制，但限制會否被理會這是一個問題。OpenAI即將推出重大改良版，可參考你所有過去的對話，並指AI將可了解你的人生，思考方向。一旦這些AI受人操控或掌握的資料落入他人之手，後果不堪設想。面對「未來報告」落實執行及擴充，保持數碼「乾淨」是最佳方法。其一，在你控制的範圍內減少資訊被收集。收集你的訊息的最主要途徑是經手機、手機網絡商，互聯網供應商，手機軟件，外部大型系統監控鏡頭。應對方法是只選用國際品牌高安全規格的手機，使用VPN，將安裝軟件減至必要，留意外部環境的監控鏡頭，需要時佩戴口罩眼鏡帽並遮蓋耳朵。其二，減少利用手機製造及處理數碼資訊，將資訊放在加密庫及手機私人檔案夾，手機儲存的資料儘快轉移，使用點對點加密通訊軟件Signal並短時燒毁資訊。社交媒體上務必謹慎發放訊息，避免個人資訊。對於敏感的公開評論，前提是懂得如何保密身份。其三，選擇Al必非常審慎，查清楚其私隱政策，避開來自極權地方的AI，儘量使用一些匿名匯集器及資料不會用作訓練AI的工具，避免上傳任何個人資料。其四，多多留意數碼安全資訊，認識威脅所在及應對方法。最後，數碼足跡太過乾淨，反而會突出，變成監控目標。筆者將會另文分析如何留下適當數碼足跡。
科幻電影每每帶來思考及警示，但當科幻情節走入現實世界，大多都是悲劇，而扭轉悲劇的往往靠的是人性道德。無道的科技發展及濫用，將會帶來甚麼後果？筆者感到心寒。還望大眾對威脅有所認知，作出充足準備。◇
----------------------
🏵️ 法輪大法洪傳世界33周年特刊：
https://tinyurl.com/3p4e4yrn
----------------------
【不忘初衷 延續真相】
📰周末版復印 支持購買👇🏻
http://epochtimeshk.org/stores
