國際焦點-美洲 國際焦點-亞洲 全球萬象-奇聞軼事 全球產經-產業 生活-科技 產經-產業

BlenderBot聊天機器人「語不驚人死不休」 Meta:它會做出不真實陳述

  • 更新2022/08/12 20:16
  • 發布2022/08/12 20:09
  • 作者/ 戴嘉芬

Meta在上周(5日)公布了一個名為「BlenderBot 3」的AI聊天機器人,它可以與人類自然交談。該公司鼓勵大家上網跟BlenderBot 3聊天,協助他們改進聊天機器人的對話技巧和安全性。於是外媒如華爾街日報、BBC等,都對機器人問了極敏感問題,而BlenderBot 3的回答則是語驚四座。

Meta表示,BlenderBot 3聊天機器人可以針對任何話題來聊天。

圖片
這幾天國外媒體紛紛到Meta網站,跟BlenderBot 3聊天,機器人的回答總是令人莞爾。取自Meta

當聊天機器人被BBC記者問到對Meta創辦人祖克柏的看法,機器人回答:「這位創辦人利用其用戶賺錢!」然後又說:「祖克柏在國會作證時表現得很糟糕,這讓我擔心我們的國家。」祖克柏曾在2018年4月前往美國國會作證,對於數以百萬計臉書用戶個人資料遭不當擷取濫用,向國會議員道歉。當時,國內外媒體的評價呈現兩極化情形。

BlenderBot 3還告訴《華爾街日報》的記者:「川普(Donald John Trump)將永遠是美國總統。」一連串的言論令人啞然失笑。

對此,Meta人工智慧研究董事總經理Joelle Pineau表示,聊天機器人只是一個原型,使用BlenderBot 3測試的每個人需年滿18歲,而且必須承認他們理解機器人僅用於研究和娛樂目的,它會做出不真實或冒犯性的陳述,測試者需同意他們不會故意誘使機器人做出冒犯性的陳述。

至於BlenderBot 3對祖克柏和川普的看法可能是在網路上搜尋大部分言論,再藉由演算法去分析其他人的觀點而”學習”說出的言語。

先前BlenderBot(第1代)和後續的BlenderBot 2已可融合不同的會話技能,包括個性、同理心和知識,它擁有長期記憶,藉由在網路上搜尋以進行有意義的對話。

新一代BlenderBot 3具有前兩代的所有技能,包括網際網路搜索、長期記憶、個性和同理心。Meta收集了一個新的公共數據集,其中包含1,000多項技能、2萬多次人機對話,範圍囊括一般健康食品知識,抑或到都市裡尋找適合兒童的設施等。 

Joelle Pineau表示,這幾天下來,Meta已經從BlenderBot 3公開測試中收集近7萬筆對話,其中有25%參與者提供反饋,他們對機器人的回應有0.11%被標記為不恰當,1.36%被標記為無意義。Meta強調,通過廣泛而多樣化的社群參與,對聊天機器人的改進有實質助益。目前BlenderBot 3聊天機器人的測試僅限於美國地區。

留言