Grok聽指令生成不雅照全球撻伐　xAI公布新規：部分國家關閉功能

全球首富馬斯克開發的人工智慧（AI）聊天機器人Grok，因聽從用戶指令合成暴露照及不雅照引發爭議，印尼甚至暫時封鎖Grok。開發Grok的xAI公司14日宣布，將不會在這類行為視為違法的國家開放這項功能。

美聯社報導，xAI於14日晚間在X平台發布聲明，宣布未來Grok將無法在相關行為違法的地區，透過編輯照片將真人表現成衣裝暴露的模樣。

https://t.co/awlfMjX6FS

— Safety (@Safety) January 14, 2026

先前Grok提供的圖片生成功能，包括「火辣模式」（spicy mode），允許用戶透過簡單指令，生成女性及兒童不雅照，引發多國譴責。

馬來西亞與印尼政府宣布採取法律行動並封鎖Grok，美國加州14日也宣布調查。英國與歐盟正調查是否可能違反網路安全法，法國與印度也發布警告，要求更嚴格的管控。巴西則呼籲對Grok的不當使用展開調查。

美聯社報導，最初，媒體針對不雅照問題詢問xAI，只得到「傳統媒體在撒謊」的回應。

不過xAI現在表示，如果內容違反特定地區的法律，將會進行地理阻斷。

xAI表示：「我們已實施技術措施，防止Grok帳號編輯真人穿著比基尼、內衣和其他暴露服裝等清涼衣物的影像。」

這項新規定適用於所有用戶，包括擁有更多功能使用權限的付費訂閱者。

xAI也將影像創作或編輯功能改為僅限付費訂閱者使用，「以確保企圖濫用Grok帳號來違反法律或我們政策的個人，能夠被追究責任」。

加州州政府的公告指出，Grok的編輯功能正在「促進大規模生產深偽非自願親密影像，這些影像正被用於在網路上騷擾女人與女孩，包括透過社群媒體平台X」。

公告引述該州檢察長邦塔（Rob Bonta）的話指出：「最近幾週，大量報導揭露xAI未經同意，製作並發佈至網路的露骨色情內容，令人震驚。這些描繪婦女與兒童處於裸體和性暴露情境的素材，已被用於在網路上騷擾他人。」

邦塔表示：「對於基於人工智慧創作與散布非自願親密影像，或兒童性虐待素材的行為，我們抱持零容忍態度。」