2023 年 11 月 23 日拍攝的照片顯示，在德國西部法蘭克福的一臺筆記本電腦屏幕上（右）顯示了美國人工智慧研究組織 OpenAI 開發的 ChatGPT 應用程序的徽標，在智能手機屏幕上顯示了字母 AI。(圖片來源： Kirill KUDRYAVTSEV / AFP/Getty Images）
【看中國2026年8月19日訊】（看中國記者田淨心編譯/綜合報導）美國佛羅里達州近日一起案件引發外界對AI聊天隱私與安全機制的關注。一名25歲的前高盛金融分析師達倫．周（Darren Zhou），因在ChatGPT對話中多次威脅殺害前女友，並記錄涉及綁架、性侵和謀殺的計畫，被OpenAI安全團隊發現後通報美國聯邦調查局（FBI），隨後遭警方逮捕。
據《棕櫚灘郵報》（Palm Beach Post）援引法院記錄報導，周今年3月開始在ChatGPT中談論與前女友分手後的情況，但相關內容很快從情緒表達轉向現實中的暴力威脅。他還向聊天機器人描述前女友的生活規律、活動地點以及兩人關係等情況。
報導指出，OpenAI發現相關對話後啟動內部安全審查，並認為內容已經達到可能對他人造成嚴重人身傷害的風險等級，於5月向FBI報告。聯邦調查人員隨後將相關聊天記錄交給棕櫚灘縣警方調查。
警方審查了周連續兩個月的聊天記錄。一名警員表示，這些內容並非單純的情緒宣泄，而是呈現出持續性的威脅、預演和計畫。警方隨後對周的前女友進行安全確認，並取得周發送給她的威脅信息作為證據。
周於5月被捕，繳納10萬美元保釋金後獲釋。高盛隨後證實，在6月獲悉相關情況後，公司已經終止與周的雇佣關係。檢方最初以加重跟蹤、書面死亡威脅以及非法使用手機等罪名起訴，相關指控最高可能面臨25年刑期。
8月13日，周在認罪協商下承認全部3項指控。法院最終暫緩定罪，判處8年緩刑，其中前2年接受電子監控，並要求接受心理健康評估和治療、參加相關干預課程，同時禁止與前女友接觸以及持有槍支、使用毒品和酒精。
周的律師表示，周此前沒有犯罪記錄，並稱其當時經歷嚴重的心理健康問題。律師還表示，儘管周在聊天中聲稱擁有槍械，但實際上並沒有槍支。
此次案件受到關注的另一原因，是OpenAI主動向執法部門報告，而非警方事後通過司法程序調取聊天記錄。
OpenAI此前表示，當系統發現可能導致嚴重人身傷害的威脅時，相關對話可能進入人工安全審查；如果審查人員判斷存在對他人造成嚴重傷害的迫切風險，公司可能向執法部門報告。
案件也再次引發一個現實問題：當AI聊天從普通交流進入現實世界的嚴重暴力威脅時，平臺應在多大程度上介入，以及如何在用戶隱私與公共安全之間取得平衡。
隨著ChatGPT等AI工具進入日常生活，這起案件顯示，AI平臺不僅需要防止用戶利用技術實施違法行為，也必須建立明確的安全審查和緊急干預機制。
