快訊

    你的聲音不是你的聲音 民眾接「AI仿聲」電話詐騙更容易上當

    2023-03-06 13:26 / 作者 林宜萱

    人工智慧(AI)發展越來越成熟,一旦被有心人士拿去做壞事,就更難破解。目前許多詐騙是歹徒冒充一般民眾的家人,聲稱遇到突發狀況而急需現金;這個把戲其實不難識破,不過,北美近來出現這個手法的升級版,是利用AI仿聲向家屬求援,由於音色更相近、更逼真,民眾更容易掉入陷阱。




    圖片
    民眾在臉書等平台影音裡說話約30秒,聲音就可能被歹徒拿去仿製。路透社




    《華盛頓郵報》5日報導,加拿大薩斯喀徹溫省(Saskatchewan)的73歲卡德奶奶(Ruth Card)某天接到電話,對方的聲音聽起來極像她的孫子布蘭登(Brandon)。這個「布蘭登」向奶奶哭訴說他被捕了,身上沒有手機或錢包,急需現金保釋。



    卡德奶奶一聽不得了,「那聲音聽起來真的……充滿恐懼,我們非得馬上把他救出來不可」,於是她和75歲丈夫格雷斯(Greg Grace)立刻衝去銀行領錢。由於每間銀行單日提款上限是3000加元(約6.7萬元台幣),他們在第一家銀行領了錢,匆匆趕去下一家。



    第二家銀行的經理聽聞,連忙帶他們進辦公室,私下告訴他們:不久前才有另一個客戶也接到類似的電話,後來發現那極似家人的聲音是AI偽造的,電話那頭的人可不一定是他們的孫子。這時,卡德奶奶和格雷斯爺爺才驚覺,他們可能被騙了,「我們真的陷進去,覺得自己是在跟布蘭登講話」。



    《華郵》報導指出,AI科技現在讓歹徒仿聲變得更簡單、成本更低,成為新的犯罪趨勢,民眾更容易上當,受騙者通常是老人,對家人的掛念總是使他們成為詐騙份子眼中的肥羊。受害者說,聽見家人的聲音說著自己有難,當下就會心生恐懼。



    據美國聯邦貿易委員會(FTC),2022年,美國冒名詐騙的案件通報超過3.6萬件,其中5100件是電話詐騙,民眾受騙金額共超過1100萬美元(約3.36億元台幣)。



    要模仿你的聲調,30秒就夠了



    透過進步的AI技術,短短幾句話就可以讓歹徒擷取網路上其他人的音訊來製造仿聲,接著只要透過線上工具,電腦就能用這段仿聲說出任何歹徒輸入的台詞。



    加州大學柏克萊分校數位鑑識科學教授法力德(Hany Farid)說:「兩年前,甚至一年前,要複製一個人的聲音需要大量音檔,現在,只要你在臉書或TikTok裡講話講個30秒,別人就能複製你的聲音。」



    法立德解釋,AI仿聲軟體可以分析出一個人的聲調中有何特點,例如年齡、性別和口音,然後從龐大資料庫裡搜出相似的聲音、及可預測的語言模式。



    如此一來,AI就能重製一個人的音色、音調和個人發音習慣,創造出大致相近的聽覺效果。而原版聲音的來源可以從很短的音訊裡擷取,例如YouTube、podcasts、TikTok、Instagram或臉書上的任何影音。



    仿製聲音的成本不高。去年才成立的美國新創公司ElevenLabs,其仿聲軟體每個月價格介於5至350美元(約153元至1.1萬元台幣)之間,價格越高,可以仿製的聲音越多,有時還有免費試用。



    ElevenLabs不光彩地爆紅了,因為其軟體被民眾惡作劇,拿去仿製名人的聲音,讓他們說出一些不曾說過的話,例如用《哈利波特》裡飾演「妙麗」的演員艾瑪華森(Emma Watson)聲音朗讀一段希特勒的自傳《我的奮鬥》。ElevenLabs表示,會努力加強安全管理,防止仿聲技術被濫用。



    但是這些安全管理可能為時已晚,至少對受害者而言是如此。聲音被詐騙集團仿製的39歲加拿大男子柏金(Benjamin Perkin)說,他那年老的爸媽就是這樣被騙了上萬美元。



    電話詐騙追查難,警方寧願將資源放在可能破案的事情上



    柏金的父母某天接到一名自稱是律師的人來電,說柏金撞死了一個美國外交官而被捕了,需要保釋金;律師接著把電話塞給「柏金」,這個柏金一面乞求爸媽幫忙,一面說著「我愛你們」。就這樣,他爸媽匯了2.1萬加元(約47萬元台幣)到一個比特幣帳戶裡,等到真正的柏金那天晚上打電話給爸媽時,爸媽徹底傻眼。



    柏金不知道自己的聲音是在那裡被擷取的,不過,他曾經在YouTube上傳一段影片大聊自己的雪上摩托車嗜好。柏金的爸媽則說,接到假柏金電話時,確實覺得那聲音聽起來有一點點奇怪,但實在無法擺脫那種「真的在跟兒子講話」的感覺。



    柏金家被騙走的錢至今沒有追回。柏金也放棄了:「錢沒了。保險也不會理賠這種事。拿不回來的。就是沒了。」



    美國聯邦貿易委員會營銷實務處(Division of Marketing Practices)助理主任麥克森(Will Maxson)表示,要追查仿聲詐騙很難,因為歹徒可能在全世界任何一個角落打電話,連管轄權在哪一國都很難確定。



    麥克森說,如果接到家人打來要錢的電話,應該先嘗試自己另外打電話給那名家人;即使來電顯示是自己的家人,這也有可能是詐騙。絕對不要幫買儲值卡或進行儲值,對於任何討要現金的電話都應該提高警覺。



    非營利組織「身分竊盜資源中心」(Identity Theft Resource Center)執行長維拉奎茲(Eva Velasquez)曾任職加州聖地牙哥檢察官辦公室,調查詐欺案有21年經驗;她表示,執法單位很難追查到仿聲詐騙犯,因為警方可能根本沒錢、也沒專業人力來追蹤這種詐欺事件。



    維拉奎茲指出,警方必須將資源分配給可以破案的案件,而電話詐騙的受害者可能無法提供足夠的資訊供警方查案,「要是你沒有任何線索可以提供,她們要從哪裡開始查?」這讓警方投入大量時間和人力的意願更低,尤其如果詐騙金額不高的話。




    林宜萱 收藏文章

    本網站使用Cookie以便為您提供更優質的使用體驗,若您點擊下方“同意”或繼續瀏覽本網站,即表示您同意我們的Cookie政策,欲瞭解更多資訊請見