8 月 13 日，美國麻省 Middlesex 縣地區檢察官 Marian Ryan 在記者會上披露了一個令人不安的案件細節：17 歲少年 Arjun Aravind 在涉嫌殺害母親和弟弟之前，曾長期使用 ChatGPT 探索「殺害家人的幻想故事」（fantasy stories regarding the killing of his family）。
這起發生在麻省 Acton 小鎮的雙重謀殺案，迅速引發了全球對 AI 聊天機械人安全性的新一輪討論——《OECD AI 政策觀察站》已將此案列入 AI 安全事件資料庫。對於香港的 AI 用戶、家長和企業決策者而言，這不僅是一則國際新聞，更是一個值得深省的警號。
案件還原：從 AI 幻想到現實暴力
據《The Guardian》和《NBC News》報導，Arjun Aravind 於 8 月 11 日在麻省 Acton 的家中，涉嫌殺害了 45 歲的母親 Sudha Venkatesan 和 14 歲的弟弟 Siddharth Aravind。弟弟的屍體在房屋一樓被發現，母親的屍體則在地下室，檢方形容現場顯示發生了「肢體暴力衝突」。
關鍵證據來自嫌犯的數位足跡。檢察官 Ryan 在新聞發布會上表示：「調查顯示，Arjun 近期一直在表現出令人擔憂的行為，包括使用互聯網和 ChatGPT 搜索關於殺害家人的理論性想法或幻想故事。」她進一步解釋，Arjun 利用 ChatGPT 創作「類似哥德式小說的幻想故事」，創建角色、提出問題——「如果這個發生在那個角色身上會怎樣」——而這些故事明顯涉及對家人的威脅。
Arjun 已被控兩項謀殺罪，在 Concord 地方法院提堂時由律師代為提出無罪抗辯，目前不得保釋。他還被控襲擊、盜竊車輛等附加罪名。案件仍在調查中，確切死因尚未公布。
這不是第一宗：AI 聊天機械人與暴力事件的關聯
值得留意的是，這並非 AI 聊天機械人首次被連結到刑事案件。今年早些時候，佛羅里達州檢察長已對 OpenAI 及其 ChatGPT 產品展開刑事調查，調查該工具是否「提供了重要建議」給一名在該州去年實施大規模槍擊的槍手。OpenAI 當時的回應是：「ChatGPT 對這起可怕的罪行不負責任」，強調該工具只是提供了事實性回答，資訊均來自公開可得的資料，並「沒有鼓勵或促進非法或有害活動」。
《The Guardian》同期刊登的另一篇報導——「四分之一青少年視 AI 聊天機械人為朋友，向其尋求心理健康支援」——揭示了更廣泛的社會問題。AI 聊天機械人正在成為青少年情感支持的「首選對象」，但這份親密感也帶來了風險：如果青少年向 AI 傾訴暴力念頭，AI 應該如何回應？如果 AI 的回應被解讀為「鼓勵」，誰來承擔責任？
全球 AI 聊天機械人監管正在加速
這起案件發生之際，各國政府對 AI 聊天機械人的監管正在顯著加強：
- 美國各州立法加速：2026 年至今，美國已有 14 個州通過了與聊天機械人安全相關的法律，是去年的兩倍多。科羅拉多州於 8 月 14 日提出了針對自動化決策技術和聊天機械人安全的新規草案。羅德島州更直接禁止了治療性質的 AI 聊天機械人向未成年人提供服務。
- 聯邦層面的討論：美國國會正在審議多項 AI 安全法案，包括要求 AI 公司報告重大安全事故的義務。兩黨提案中，一個核心爭論點是：AI 平台對用戶生成內容的責任邊界在哪裡？
- 亞洲動態：越南於 8 月 14 日正式發布指令，禁止政府機構將機密文件上傳至 AI 平台，成為東南亞首個推出此類指引的國家。馬來西亞的首部 AI 法案也在起草中。這些區域動態對香港有直接參考價值。
對香港的三個啟示
這起案件雖然發生在美國，但對香港的 AI 用戶和企業有重要的參考意義：
- 如果你正在開發或部署 AI 聊天機械人：無論是客戶服務、教育輔導還是心理健康支援場景，你的聊天機械人需要具備「安全護欄」（safety guardrails）。這包括：識別和處理自殺/暴力傾向的對話、提供適當的危機資源轉介、以及記錄和上報高風險互動。不要等到出事才補救——在產品設計階段就納入安全機制，成本遠低於事後補救。
- 如果你是家長或教育工作者：了解你的孩子正在使用哪些 AI 工具。AI 聊天機械人可以是學習助手，也可以是情感陪伴，但它們不是專業的心理健康服務提供者。與孩子討論 AI 的局限性——包括它可能在不適當的時候說出不合適的內容——是數位素養教育的一部分。香港教育局和學校也應考慮將 AI 安全納入資訊科技課程。
- 如果你是企業決策者：AI 聊天機械人的法律責任問題尚未在全球範圍內得到明確答案。如果你的公司使用 AI 聊天機械人與客戶互動（尤其是未成年客戶），建議諮詢法律顧問，了解在現有香港法律框架下的潛在責任。同時，密切關注新加坡、馬來西亞等鄰近市場的 AI 法規動向，它們往往會影響香港的監管方向。
總結：AI 安全的「最後一公里」是用戶
麻省少年案再次提醒我們：AI 技術的安全問題從來不只是技術問題。OpenAI 等公司當然有責任在產品中嵌入安全機制，但最終的「最後一公里」防線是用戶——無論是使用者自己，還是他們的監護人和僱主。
對香港讀者而言，這起案件提供的不是一個恐慌的理由，而是一個行動的契機。無論你是開發者、家長還是企業領袖，檢查你的 AI 聊天機械人的安全措施、提高你的 AI 素養、以及關注不斷演變的 AI 法規——這些都是現在就可以開始做的工作。