國際焦點-美洲 全球萬象-時事話題 全球產經-產業 生活-科技

YouTube重錘打擊有害言論 以機器學習技術阻擋陰謀論影片

  • 更新2022/02/18 13:59
  • 發布2022/02/18 13:49
  • 作者/ 戴嘉芬

YouTube產品長Neal Mohan今日(2/18)揭露該公司如何長期處理平台上疑似有害的不實資訊。YouTube持續以4R來建構平台責任,團隊未來也將面臨來自「新的網路不實言論」、「阻止違規邊緣影片繼續傳播」以及「全球各地的文化差異」三大挑戰。

圖片
YouTube產品長Neal Mohan今日(2/18)表示,該公司將持續以4R來建構平台責任架構,包括移除、優先顯示、減少推薦和獎勵創作者。(圖片來源/YouTube提供)

Neal Mohan表示,YouTube在過去五年中投入大量資源,來構建「4R」平台責任架構。這4個R分別是Remove(移除)、Raise(優先顯示)、Reward(獎勵創作者)、Reduce(減少推薦)。第一個Remove是盡快刪除違反規定的內容;而Raise是當人們在尋找突發新聞和訊息時優先顯示權威性內容;Reward則是獎勵值得信任的創作者和藝術家;Reduce是減少推薦與YouTube政策路線相抵觸的內容。

借助機器學習和人工審閱兩者,讓YouTube得以快速移除違規內容、提供可靠的訊息來源並阻止問題內容的傳播。Neal Mohan表示,團隊接下來要面臨三大挑戰。首先,必須在新的網路不實資訊被快速傳播前搶先掌握。

以往像是「911真相陰謀論」、「阿波羅登月計畫陰謀論」以及從古希臘時代延伸至今的「地平說」支持者,這些歷久不衰的陰謀論,在長時間累積下發展出一系列內容,讓YouTube得以有一套模式來訓練機器學習系統,以減少推薦這類影片和其他類似內容的影片。

這兩年來,由於COVID-19疫情快速傳播,各種新聞和訊息充斥在社群媒體上,有時候,連一般成人都很難去辨認真假,更何況兒童或老人家。在疫情初期,甚至有人懷疑5G基地台造成新冠病毒傳播的陰謀論,導致人們在英國燒毀了多座手機基地台。此類內容明顯對現實世界造成危害,YouTube因此將其界定為違規內容。而這些針對COVID-19不實訊息的處理政策是源於當地和全球衛生機構的指導意見所制定。

但是在未來還是有可能會繼續發生類似情況,也就是重大事件發生初期,如何去判別哪些是正確資訊?哪些是不實資訊?為了解決這個問題,YouTube不斷訓練機器學習系統識別新的資料,利用更注重目標的分類器組合、多種語言的關鍵字,以及來自各個區域分析師的資訊,來偵測主要分類器無法捕捉到的不實訊息內容。

YouTube系統也會透過搜尋結果或推薦機制將觀眾連結至內容可靠的影片。但面對某些缺乏可靠訊息來源的內容主題時,也就是資料空洞(data voids)情形,例如地震、颱風這種因自然災害造成的突發新聞事件,也許有些媒體為了搶快,發布未經證實的事發原因推測和人員傷亡等內容。YouTube可能沒有足夠的時間引導人們去看所謂值得信任的內容。

因此,對於自然災害這類重大的新聞事件,實際做法是提供相關報導的新聞板塊導引觀眾到重大新聞事件的所有文章內容。對於媒體較少報導的特定內容,也會提供事實查核區塊(fact check boxes)。未經查核的訊息會運用不同類型的標籤添加到影片或搜尋結果中,以警告觀眾相關內容可能缺乏可靠訊息來源。

阻止某些遊走在違規邊緣的影片(borderline videos)在跨平台傳播是YouTube的另一項挑戰。所以YouTube官方並不想把它們推薦給觀眾。目前已針對推薦系統進行改善,違規邊緣內容透過推薦系統被看到的比率,已大幅降低至1%以下。但該影片可能仍會因為其他網站的連結引導而獲得觀看次數。

因此,YouTube採用另一個方式是停用「分享」按鈕,針對已經限制推薦的影片,讓其連結失效。也就是使用者無法在其他網站上嵌入或連結到違規邊緣的影片。

另一種可能的方式是在觀眾觀看嵌入或連結到違規邊緣內容的影片之前,插播顯示一則插頁式內容,讓他們知道該內容可能包含不實資訊。插頁式內容具有緩衝作用,能夠讓觀眾在觀看或分享內容之前,先停下來思考一下。目前YouTube已在設有年齡限制的內容以及暴力或血腥影片中使用插頁式警告內容,讓觀眾可選擇是否要收看即將播放的影片。

YouTube面臨的第三項挑戰是全球各地的文化差異,這使得人們對可靠資訊來源的定義有著截然不同的態度。在部分國家或地區,像是英國BBC等的公共電視台被廣泛認為是可靠的新聞來源。不同國家或地區的新聞及資訊生態系統亦有所不同,有些地方的媒體對新聞內容有較嚴格的事實查證標準,有些卻不太重視監管或查證。

此外,政治環境、歷史背景和突發新聞事件也可能會造成當地特有的不實資訊,像是茲卡病毒(Zika)在巴西爆發期間,有些人便將此疾病歸咎於國際陰謀論;或是去年在日本,網路上有流言聲稱某場地震是人工干預的結果。

因此,被認定為違規邊緣內容的定義在不同國家和地區可能截然不同。YouTube也花時間與本地團隊和專家溝通,說明不同文化背景可影響影片是否被歸類為違規邊緣內容。未來,YouTube將尋求更多與全球各地的專家和非政府組織合作的機會,並採用與應對網路上瘋傳主題的相同方式,找出增加更新模型頻率的方法,以便偵測當地特有的不實資訊,同時支援當地語言。

留言