BlenderBot聊天機器人「語不驚人死不休」　Meta：它會做出不真實陳述

Meta在上周（5日）公布了一個名為「BlenderBot 3」的AI聊天機器人，它可以與人類自然交談。該公司鼓勵大家上網跟BlenderBot 3聊天，協助他們改進聊天機器人的對話技巧和安全性。於是外媒如華爾街日報、BBC等，都對機器人問了極敏感問題，而BlenderBot 3的回答則是語驚四座。

Meta表示，BlenderBot 3聊天機器人可以針對任何話題來聊天。

當聊天機器人被BBC記者問到對Meta創辦人祖克柏的看法，機器人回答：「這位創辦人利用其用戶賺錢！」然後又說：「祖克柏在國會作證時表現得很糟糕，這讓我擔心我們的國家。」祖克柏曾在2018年4月前往美國國會作證，對於數以百萬計臉書用戶個人資料遭不當擷取濫用，向國會議員道歉。當時，國內外媒體的評價呈現兩極化情形。

BlenderBot 3還告訴《華爾街日報》的記者：「川普（Donald John Trump）將永遠是美國總統。」一連串的言論令人啞然失笑。

對此，Meta人工智慧研究董事總經理Joelle Pineau表示，聊天機器人只是一個原型，使用BlenderBot 3測試的每個人需年滿18歲，而且必須承認他們理解機器人僅用於研究和娛樂目的，它會做出不真實或冒犯性的陳述，測試者需同意他們不會故意誘使機器人做出冒犯性的陳述。

至於BlenderBot 3對祖克柏和川普的看法可能是在網路上搜尋大部分言論，再藉由演算法去分析其他人的觀點而”學習”說出的言語。

先前BlenderBot（第1代）和後續的BlenderBot 2已可融合不同的會話技能，包括個性、同理心和知識，它擁有長期記憶，藉由在網路上搜尋以進行有意義的對話。

新一代BlenderBot 3具有前兩代的所有技能，包括網際網路搜索、長期記憶、個性和同理心。Meta收集了一個新的公共數據集，其中包含1,000多項技能、2萬多次人機對話，範圍囊括一般健康食品知識，抑或到都市裡尋找適合兒童的設施等。 

Joelle Pineau表示，這幾天下來，Meta已經從BlenderBot 3公開測試中收集近7萬筆對話，其中有25%參與者提供反饋，他們對機器人的回應有0.11%被標記為不恰當，1.36%被標記為無意義。Meta強調，通過廣泛而多樣化的社群參與，對聊天機器人的改進有實質助益。目前BlenderBot 3聊天機器人的測試僅限於美國地區。