憂AI產出深偽不雅圖　印尼暫封鎖Grok成全球首例

印尼通訊與數位部表示，基於對人工智慧（AI）生成色情內容的疑慮，印尼宣布暫時封鎖馬斯克（Elon Musk）旗下AI聊天機器人Grok的服務。

法新社報導，Grok先前因圖片生成功能允許用戶透過簡單指令便能將女性及兒童照片色情化，引發全球譴責。

印尼成為全球首個全面封鎖Grok的國家。相較之下，爭議爆發後，其他地區僅限付費訂閱者使用Grok。

印尼通訊與數位部長穆迪雅（Meutya Hafid）發表聲明指出：「為了保護婦女、兒童以及大眾免於人工智慧技術生成虛假色情內容的風險，政府…已暫時封鎖Grok應用程式的存取權。」

她表示，「政府認為，未經同意的深偽（deepfake）行為嚴重侵犯人權、尊嚴，以及公民的數位空間安全。」

印尼通訊與數位部已傳喚社群媒體平台X的代表要求說明。

根據法新社在雅加達（Jakarta）的記者團隊，截至10日晚間，Grok的X帳號仍然活躍並回應包括印尼語在內的查詢。

開發Grok的馬斯克旗下新創公司xAI，並未立即回應置評請求。

歐洲官員及科技倡議人士批評，只將Grok功能限縮於付費用戶，根本無法解決涉及性露骨深偽內容的社會疑慮。

馬斯克上週回應1則有關不雅影像的貼文表示，任何利用Grok製作非法內容的人，「將承擔與上傳非法內容者同等的法律後果」。