美國佛羅里達州起訴OpenAI助長槍擊案及危害未成年人

這是美國首個州政府就人工智能產品安全問題向OpenAI提出全面訴訟。

訴訟由佛州總檢察長烏斯邁爾（James Uthmeier）提出，除針對OpenAI外，亦將公司行政總裁阿爾特曼（Sam Altman）列為被告之一。佛州政府指控OpenAI在人工智能競賽中過度追求市場領先地位及商業利益，未有充分評估其技術對公眾安全造成的風險。

案件與多宗暴力事件有關，包括2025年佛羅里達州立大學造成兩人死亡的槍擊案，以及南佛羅里達大學兩名博士生被殺案件。檢方指出，部分疑犯曾透過ChatGPT查詢與暴力犯罪及處理屍體相關的資訊。目前佛州當局亦正就ChatGPT在校園槍擊案中可能扮演的角色展開刑事調查。

OpenAI則否認相關指控，表示公司已建立業界領先的安全措施，包括年齡識別系統、內容限制機制及家長監管工具，以保護未成年用戶。公司強調，人工智能是一項新興技術，將繼續改善安全保障措施。

同路點評：

近年來，除了OpenAI, 不少科技平台如Meta、TikTok、Snap及YouTube相繼因產品設計對青少年心理健康及公共安全造成影響而面臨法律挑戰。

ChatGPT等生成式人工智能的設計，是盡可能理解和回應使用者需求。然而，當系統過度傾向迎合用戶，甚至在涉及暴力、自殘或其他高風險議題時仍提供詳細回應，便會對其安全機制的憂慮。人工智能固然不是犯罪行為的直接執行者，但當它能夠提供建議、資訊甚至情感回應時，其對用戶行為的潛在影響已不能被忽視。

作為一項仍在快速發展的新興技術，人工智能帶來巨大創新機遇，但同時亦伴隨前所未有的風險。監管機構和企業都需要重新檢視現行安全框架，確保技術發展不會走在公共利益之前。