AI恐滅絕人類？ 唐鳳：可要求語言模型進一步調校！變成社會期待的樣貌

美國非營利組織CAIS人工智慧安全中心近期發布一份連署公開信，強調應「降低AI滅絕人類的風險，且將其視為全球優先要務，與嚴重傳染病、核戰等風險等同視之」；包括OpenAI執行長Sam Altman、微軟前總裁比爾蓋茲、Google DeepMind等公司CEO，及 AI 相關專家等350多人皆參與連署，我國數位發展部部長唐鳳也是其中一人。

唐鳳周五（6/2）受訪表示，這代表每個技術當它開始大量應用之時，會造成一些原本無法想像的社會結果。稍早，唐鳳與發明「按讚」（Like Button）功能的工程師 Justin Rosenstein 有一場對談，對方提到當時發明按讚功能時，FB使用者只要看到別人按讚，心情就會變好，Justin 說「這對社會應該是一件好事吧！」

不只是「按讚」，還有發明「觸控螢幕」，或是發明「推送通知」的人，他們在做這件事的當下，一定都認為這對社會應有正面助益。唐鳳說，「但是，當這3種發明加起來的時候，就未必是件好事了！」怎麼說呢？當你在跟朋友聚餐聊天時，手機螢幕突然跳出通知，提醒你某某人已在你的臉書貼文按讚，接著大家全部開始看自己的手機螢幕，忘了正在聚餐聊天這回事。

唐鳳表示，「新興科技甫問世時，若搭配其他的科技應用，可能會造成額外的社會後果，且這個後果不一定是正面的，這時我們就應該預先投資較多的時間、資源和預算，去了解這樣的交互作用會造成甚麼不好的結果 。」

上個月，也有一項極端風險的模型評估研究報告，針對深偽Deepfake、線上詐騙、網攻等用法，都有可能是這些不同的AI技術相互搭配之後，突然冒出的新興威脅，面對這些威脅，人們要如何進行調適？數位部也將這個議題列入下月「點子松」腦力激盪的一部份，詢問整個社會，「關於生成式AI，大家是否希望它們的行為能夠調整成比較符合社會期待的樣貌，以及調整的方法。」唐鳳說道。

他指出，這些AI語言模型的特色，就是「你告訴它要如何去與社會互動，它還真的就會跟著學！」我們也會藉由對齊大會（Alignment Assemblies）的推動方式，進一步要求這些AI語言模型的製作者和模型本身，去調校自己，來回應人類社會的期待。