聊天機器人ChatGPT。路透社
ChatGPT開發商OpenAI揭露,一名中國特工把ChatGPT當日誌使用,意外導致中國的一項大規模影響力行動曝光,其中包括恐嚇海外異議人士。這些惡意手法包括冒充美國移民官員威嚇、製造假訃聞、抹黑日本首相高市早苗。
美國有線電視新聞網(
CNN)報導,根據OpenAI的最新報告,這名中國特工在ChatGPT記錄一連串跨國秘密鎮壓行動,包括由多名中國特工偽裝成美國移民官員,警告一名居住在美國的中國異議人士,表示其公開言論已違法。
根據這名用戶的記錄,中國特工還曾利用偽造的美國法院文件,試圖關閉一名中國異議人士的社群帳號。
報告指出,這名用戶是用ChatGPT記錄海外秘密鎮壓行動,但相關的影響力行動內容是用其他工具生成,再透過多個社群帳號及網站散布。
OpenAI的報告指出,這項影響力行動可能涉及數百名中國特工,以及各大社群平台的數千個假帳號。OpenAI發現相關活動後,已封禁這名中國用戶的帳號。
OpenAI研究人員將這名用戶下的指令與現實世界網路活動進行比對,其中包括偽造一名中國異議人士已死亡的消息,涉及生成假訃聞與墓碑照片,並且在網路散布。
根據美國之音(
VOA)中文版,這名異議人士界立建的死亡謠言2023年確實曾在網路出現。
另一個案例是,這名中國特工曾要求ChatGPT制定多步驟計畫,抹黑當時即將上任的日本首相高市早苗,包括煽動日本民眾對川普關稅的不滿情緒。
OpenAI表示,ChatGPT拒絕回應這項指令,但去年10月高市就職後,日本一個多為平面設計師參與的熱門論壇上就出現了攻擊高市、抱怨美國關稅的話題標籤。
OpenAI首席研究員尼莫(Ben Nimmo)表示,這正是當今中國跨國鎮壓的樣貌,不僅限於數位空間,也不只是網軍攻擊,而是一種「工業化」運作,試圖以各種手段、在全球各處同步打擊中共批評者。
曾在美國國防部主管新興科技事務的霍洛維茲(Michael Horowitz)也指出,這份報告「清楚展示中國如何積極運用AI工具強化資訊作戰能力」。
現任賓州大學教授的霍洛維茲指出,美中在AI領域的競爭正持續升溫,不僅體現在尖端技術領域,也突顯於中國政府如何規劃並執行日常監控與資訊操作體系。