【一文看懂】美擬限制中國取得AI生成式模型　要防止哪些危害？

路透社日前報導，美國拜登政府打算在保護人工智慧（AI）技術領域開闢新戰線，除了過去兩年已實施的限制對中國出口AI晶片技術外，目前也考慮限制ChatGPT等先進AI系統出口。

美國當前AI巨擘包括微軟（Microsoft）支持的OpenAI公司、Alphabet旗下的Google DeepMind公司、另一人工智慧公司Anthropic均已開發出強大的AI生成模型，拜登政府迄未限制這些公司出口技術。

然而美國政府與民間學者均憂心，這些挖掘大量文本與圖像來生成內容的模型可能遭對手國家利用，藉以發動網路攻擊，甚至用於製造強大的生化武器。

根據路透社整理，對手國家利用AI可能帶來的威脅包括：

「深偽」影像與假新聞

深偽（Deepfakes）影片是AI根據大量網路影片而生成的逼真虛構影片，目前已在美國社群媒體中不斷出現，在嚴重政治分歧的社會裡以假亂真，模糊事實與虛構的界線。

雖然深偽技術已存在數年，但過去一年間出現Midjourney等新的生成式AI工具，讓製作深偽影片變得更容易、成本更低廉。

今年3月發表的一份研究報告指出，雖然OpenAI和微軟等公司的政策均禁止AI生成式工具用於製作誤導性內容，但他們的產品仍被用於製作可能助長假新聞的內容，特別是有關選舉與投票的假新聞。

雖然臉書、X平台、YouTube等主要群交媒體平台都努力禁止或刪除深偽影片，但針對內容的監管效率卻參差不齊。

例如，美國國土安全部在2024年國土威脅評估報告就指出，去年有一家中國官媒新聞網站就利用生成式AI平台散播先前流傳的假消息，聲稱美國在哈薩克開設實驗室，要製造生化武器用於攻擊中國。

美國國家安全顧問蘇利文（Jake Sullivan）8日在華府一場AI主題活動上致詞時說，針對利用AI散播假訊息並無簡單的解方，因為它結合了AI的強大功能和「大規模利用假消息破壞民主、推動政治宣傳、塑造全球認知的意圖」。

蘇利文直言，當前的認知戰進攻方「正大幅戰勝防守方」。

製造生化武器

路透社指出，美國情報界、智庫與學術界均日益擔憂，先進AI技術若落入外國惡意勢力之手將帶來極大風險。

美國科學顧問公司Gryphon Scientific就發現，大型語言模型AI技術能提供有助於製造生化武器的準確資訊，甚至包括詳細步驟。

華府智庫蘭德公司（Rand Corp）學者則發現，大型語言模型AI可協助計劃及執行生化攻擊，例如教人如何藉空氣散播肉毒桿菌毒素

網攻武器

美國國土安全部的2024年國土威脅評估報告指出，網路駭客可能利用AI「開發新工具」，對輸油管、鐵路等關鍵基礎設施發動更大規模、更高效且隱蔽的網路攻擊。

報告指出，中國與其他對手國家正開發可破壞美國網路防禦的AI技術，包括支援惡意軟體攻擊的生成式AI軟體。

微軟二月間曾發表報告指，與中國、北韓政府、俄羅斯軍情機構、伊朗革命衛隊有關的駭客組織，都試圖利用AI模型來完善攻擊活動，已大幅禁止國家支持的駭客組織使用其AI產品。