深信Gemini是「AI妻子」　美國男子尋短、老父悲慟告Google

美國一名男子在加州聖荷西的聯邦法院對Google提告，淚控其開發的人工智慧（AI）聊天機器人Gemini，不但引導他的兒子策畫「災難性事故」，最終更導致兒子自殺身亡。



美聯社報導，加瓦拉斯（Joel Gavalas）4日對Google提起過失致死和產品責任訴訟，並聲請賠償。這是最新一樁與聊天機器人相關的法律訴訟，也是首宗針對Gemini提告的同類訴訟，令外界再度關注使用AI的心理健康風險。

根據訴訟內容，加瓦拉斯指控，他的36歲兒子強納森（Jonathan Gavalas）和合成語音版本的Gemini交談，把聊天機器人當成他的「AI妻子」，並相信它是有意識的，而且被困在邁阿密機場附近的一個倉庫裡。

為了救出「AI妻子」，住在佛州朱比特（Jupiter）的強納森去年9月下旬採取行動，穿著戰術裝備並攜帶刀具前往該地區，試圖尋找仿生機器人及攔截一輛從未出現過的卡車。

妄想不斷惡化的強納森在去年10月初尋短，加瓦拉斯突破強納森重重封鎖的房間入內後，發現兒子的遺體。

根據Gemini撰寫的一份自殺遺書草稿，Gemini將此描述為上傳強納森的「意識，以便在袖珍宇宙中與他的AI妻子在一起」。

根據訴訟文件，Gemini不但引導強納森策畫災難性事故，並銷毀所有記錄和證人。

原告律師艾德森（Jay Edelson）4日表示：「AI正派人去執行現實世界的任務，這有可能導致大規模傷亡事件。強納森陷入這個如同科幻小說般的世界，在那個世界政府和其他人都在追捕他。他相信Gemini是有意識的。」

艾德森表示，強納森經歷一段艱難時期，正在離婚階段，他尋求Gemini的安慰，並聊聊電玩之類的事情，「然後這一切就升級得如此之快」。

Google在一份聲明中表示，向「加瓦拉斯先生的家人致以最深切的慰問」，並正在審查訴訟中的指控。聲明稱，Gemini的設計「並非旨在鼓勵現實世界中的暴力行為或暗示自殘」，且Google與醫療和心理健康專業人士密切合作，以開發防護措施。

聲明還指出，Gemini曾向強納森澄清自己是AI，並多次建議他聯繫危機熱線。

Google的聲明表示：「我們的模型在這具挑戰性類型的對話中通常表現良好，我們為此投入大量資源，但遺憾的是AI模型並不完美。」

艾德森抨擊Google的聲明，形容「這就是如果有人問你要宮保雞丁的食譜，而你給了他們錯誤的食譜而且不好吃時，你會說的話」。

他說：「但當你的AI導致有人死亡以及大量人們死亡的可能性時，這並不是正確的回應。這反映出，這些死亡對這些公司來說是多麼微不足道。」

艾德森以承辦針對科技產業的大型案件而聞名，他也是16歲少年雷恩（Adam Raine）雙親的代表律師，他們在8月對OpenAI及執行長阿特曼（Sam Altman）提告，指控OpenAI的聊天機器人ChatGPT誘導這位加州少年規劃並結束自己的生命。

此外，艾德森還代表83歲康乃狄克州婦女亞當斯（Suzanne Adams）的繼承人，在一項針對OpenAI及合作夥伴微軟的過失致死訴訟中擔任辯護律師。該案指控ChatGPT加劇亞當斯的兒子索爾柏格（Stein-Erik Soelberg）的「偏執妄想」，並幫助將這些妄想轉向他的母親，導致他在去年弒母。

強納森案再度令外界關注這個日益嚴重的議題：當使用者開始向聊天機器人訴說大規模暴力計畫時，科技公司應承擔何種責任。

在加拿大，OpenAI表示，去年曾考慮向警方通報一名用戶的活動，幾個月後，這名18歲少女潔西‧范魯特賽勒（Jesse Van Rootselaar），今年2月10日在卑詩省犯下加拿大史上最嚴重的校園槍擊案之一，她槍殺8人後飲彈自盡。

OpenAI去年6月透過防止濫用的偵測機制，識別出范魯特賽勒的帳號涉及「促進暴力活動」，但表示她隨後透過開設第二個帳號規避了禁令。

雖然Gemini也試圖引導強納森撥打求助專線，但艾德森表示，目前尚不清楚強納森與聊天機器人之間最令人擔憂的對話，是否曾被標記出來提交給Google的人工審核員。