ChatGPT涉誹謗和造假資訊 美聯邦貿易委會員展開調查

2023-07-14 09:54 / 作者 林宜萱
ChatGPT示意圖。路透社
聊天機器人ChatGPT爆紅,但爭議也不少,去年發生一次疑似個資外洩事件,也經常被發現它提供的資訊不準確、有誤導之嫌。美國聯邦貿易委員會(FTC)已展開調查,將確認ChatGPT的母公司OpenAI是否將他人名聲和個資置於風險之中,違反了消費者保護法。

綜合《華盛頓郵報》和《華爾街日報》13日報導,美國聯邦貿易委員會向OpenAI提出一份長達20頁的傳票,要求說明公司如何解決生成式人工智慧(AI)的相關風險。OpenAI執行長奧特曼(Sam Altman)在AI如何受監管的討論中已成為要角,曾去美國國會作證、和國會議員餐敘、和正副總統都見過面,聯邦貿易委員會將是OpenAI在美國遇過最具監管力量的機構。

聯邦貿易委員會在傳票裡表示,正在調查OpenAI是否涉及不公平或詐欺行為,導致消費者名聲受損,要求OpenAI針對所有投訴詳盡解釋,這些投訴和ChatGPT對人做出「虛假、誤導、貶抑、有害」言論有關,

傳票裡的其中一題,要求OpenAI「詳細敘述貴公司在採取了多少措施來解決、或減緩大規模生成式語言模型可能對真人產生的虛假、誤導或誹謗性陳述之風險」。

聯邦貿易委員會還要求OpenAI提供去年一次資安事件的數據紀錄。當時OpenAI的系統允許一些使用者查看付費限定的資訊,同時還能看到其他使用者的ChatGPT聊天紀錄;OpenAI今年3月在部落格裡公開這件事,強調數據遭到外洩的使用者人數「極少」。

OpenAI執行長奧特曼在推特發文,證實公司收到聯邦貿易委員會傳票。奧特曼說,公司「當然」應該配合聯邦貿易委員會,但是「看到聯邦貿易委員會的要求,是以數據外洩為起頭,實在令人很失望,無益於建立信任」,他強調公司技術是安全、有利於消費者的,而且ChatGPT的設計「是為了讓大家知道世界的更多資訊,而不是某個人的資料」。

奧特曼今年5月出席國會聽證會時,曾呼籲國會對先進AI制定標準,「我們理解大家擔心AI將如何改變人們的生活方式,我們也有這份擔憂。如果這項技術出了問題,事情可能會變得很糟糕」。

聊天機器人的言論是否該歸聯邦貿易委員會管?

聯邦貿易委員會沒有回應媒體詢問,但調查OpenAI的傳票很快就變成對聯邦貿易委員會主席麗娜汗(Lina Khan)的質疑。一些批評者說,麗娜汗有時候「管太多」,例如先前聯邦貿易委員會阻止微軟以690億美元併購電玩公司動視暴雪(Activision Blizzard),不過聯邦法院本週駁回了聯邦貿易委員會的命令。
20237月13日,美國聯邦貿易委員會主席麗娜汗在眾院聽證會備詢。路透社

麗娜汗13日出席眾院聽證委員會,受到強烈質疑。共和黨籍眾議員畢紹普(Dan Bishop)問,誹謗通常是各州法律的管轄範圍,聯邦貿易委員會有什麼權力可以因誹謗問題而要求OpenAI解釋。

麗娜汗回應,誹謗確實不是聯邦貿易委員會管轄的重點,但根據法規,在訓練聊天機器人時濫用他人的個人資訊,就是詐欺的一種形式,「我們關注的是,是否有人因此受到傷害?而受傷可能有各種形式」,ChatGPT曾被報導在回答問題時拿其他人的敏感個資來用,也被報導有誹謗言論、及虛構出完全不真實的內容,「這就是我們擔心的詐欺和欺騙類型」。

聯邦貿易委員會在演講、部落格和記者會等各種場合都多次預告,即將對AI科技採取行動;委員會轄下的消費者保護局局長萊文(Samuel Levine)今年4月在哈佛法學院演講時就說,聯邦貿易委員會以準備好靈活應對新威脅,「委員會歡迎創新的技術,但創新不代表允許輕率妄為」。

據先前報導,美國曾有一名律師使用ChatGPT寫法庭文件,結果ChatGPT自己發明了至少6項假判例;ChatGPT爆紅後,網路上出現數十個新的「媒體網站」,但刊登的「新聞」很多都是假消息;在ChatGPT編寫的資訊內容裡,曾有美國名校教授被指稱為性騷擾嫌犯,ChatGPT聲稱是《華盛頓郵報》報導,但報社從未出版過這篇新聞。

聯邦貿易委員會推動的監管,受到科技業的抵制。科技業公會「進步商會」(Chamber of Progress)執行長柯瓦切維奇(Adam Kovacevich)批評,聯邦貿易委員會對資安和假訊息有監督責任,但誹謗或ChatGPT生成的內容是否屬於該委員會管轄,還有待商榷,「這應該是言論的領域,變成監管言論,就超過了他們的職權範圍」。

投訴ChatGPT的非營利組織「AI與數位政策中心」(Center for AI and Digital Policy)主席羅騰柏格(Marc Rotenberg)則指出,雖然不確定聯邦貿易委員會對誹謗有無管轄權,「但誤導性的廣告顯然就是了吧」,與商業相關的假資訊都歸該委員會管。

拜登政府正在研究是否要對ChatGPT等AI工具進行審查,參院也將監管AI作為本屆國會的優先事項。除了擔憂名聲風險,議員們也擔憂AI可能被用來創造假資訊誤導選民、操縱選舉、歧視少數族群、進行金融犯罪、搶走人類工作導致失業率上升、「深偽」(deepfake)影片流傳等。
林宜萱 收藏文章

本網站使用Cookie以便為您提供更優質的使用體驗,若您點擊下方“同意”或繼續瀏覽本網站,即表示您同意我們的Cookie政策,欲瞭解更多資訊請見