更難破解的錯假訊息：AI可能如何影響2024美國總統大選？

2023 年 12 月 21 日 | 卓越新聞電子報

陳曦｜特約記者編譯報導

美國總統大選將在2024年到來，然而回顧自2016年以來，錯假訊息以社群媒體平台為載體，病毒式迅速擴散、使美國社會分歧加劇、極化，種種現象與影響在大選之際最為劇烈，如今人工智慧（Artificial Intelligence，AI）的進步更使得製造假訊息、操縱內容的成本愈低而識讀難度拉高，不難預見AI勢必會在2024大選中成為侵蝕民主的利器——AI對閱聽人、對新聞工作者、對事實查核機構所帶來的具體挑戰是什麼？又可能如何左右2024美國大選？

AI錯假訊息製作成本低　資訊生態系統受侵蝕

《衛報》在其專題報導中，引述專家指出，AI的進步可能增強各種錯假訊息的宣傳：可任意生成、任意操縱的內容製作成本已經極其低廉，且很容易就大量製造各種形式主題不同、主旨訊息相同的文本，以至於錯假訊息更加無所不在；在AI時代，專家憂心科技的進步帶來的會是這般反烏托邦的政治未來。

近年的數次美國總統選舉皆頻頻受到錯假訊息的轟炸，例如在2016年總統大選投票前，大量錯誤訊息、虛假訊息就搭上社群媒體平台的順風車，加上極右派人士、外國影響力和假新聞網站大力傳播不時的錯假訊息，結果就是不實訊息四處流竄、美國社會分歧加劇；而在四年後的2020年總統大選，更是充斥著陰謀論和毫無根據的「選舉被偷走了」指控，這些謠言不斷流傳、影響範圍一直擴大到數百萬美國人，結果助長了一場意圖推翻選舉的反民主運動——也就是1月6日國會山莊暴亂事件。

而今隨著2024年美國總統大選的腳步愈加接近，專家警告AI的進步可能取代過去的錯假訊息傳播策略，並注入新的散播力道；藉由AI所生成的錯假訊息，不僅欺騙閱聽眾的能力更強、可能性更高，還會讓本就因充斥不準確的資訊和欺騙性內容而陷入困境的資訊生態系統，更進一步受到侵蝕。

非營利組織「電子隱私資訊中心」的資深顧問溫特斯（Ben Winters）表示，「（人們對資訊的）信任度將會下降，記者和其他任何試圖傳播真實訊息的人，他們的工作會變得更加困難，這可不會對資訊生態系統產生任何積極正面影響」。

錯假訊息傳播：舊戰術加上新工具

2023年，隨著OpenAI等科技公司在大眾市場上發布產品，能夠生成逼真圖像、模仿人聲語音和編寫就像出自真人之口、令人信服的談話內容的AI工具使用量激增。這項技術已經顛覆眾多產業，以致歐盟修法因應、美國亦追趕跟進，且現有的社會不平等現象也跟著AI應用層面愈廣而加劇——在政治上，AI也越來越多地被使用在無中生有「創造」政治相關內容。

舉例在2023年5月，美聯社報導AI生成的五角大廈（美國國防部所在地）爆炸假影像導致美國股市一度短暫下跌，關於政治人物的AI不實影像就更多，像是2018年曾經出現美國前總統歐巴馬（Barack Obama）辱罵時任總統川普（Donald Trump）「是個笨蛋」的「深偽」（Deepfake）影片，還有川普與試圖逮捕他的警察搏鬥的AI假影片，種種不實影片都在社群媒體平台上廣為流傳。
共和黨全國委員會（Republican National Committee）在2023年4月的時候，發布了一個完全由AI生成的廣告，其中模擬了現任總統拜登（Joe Biden）連任後，將發生一系列想像中的美國國內和國際危機，用以警告選民不要投票給拜登；共和黨全國委員會發言人指出，這是該單位首次製作100%由AI生成影像的影片。

廣告的目的並非刻意造假、散播假訊息，但是這項應用讓許多人深感不安，美國政治顧問協會（American Association of Political Consultants）警告，深偽影片已經對民主構成了威脅。

在某些方面，AI生成的圖像和廣告，與多年來已成為社會早已熟悉常見，經過刻意操縱的圖像、影片、誤導性訊息和機器人電話並沒有太大不同，但錯假訊息的傳播擴散，在以前會面臨一系列擋下傳播路徑的障礙，像是為社群媒體上發出假訊息的假帳號創立個人化的資訊（以防一眼被認出是假帳號）非常耗時耗神，而在沒有AI協助的情況下，要對影像進行修圖和影片編輯後製也是如此。

然而現在，AI的廣泛應用已經使得任何人都可以輕易創造出此類內容，即使是只有最基本科技能力的人也做得到，且目前美國對於AI使用的相關監管或限制法規仍然有限，因此《衛報》引述專家警告指出，在一些國家進入重大選舉年之際，AI發展帶來的潛在影響是特定政治宣傳的加速散播。

AI科技降低了製造錯假訊息的門檻

AI對選舉的潛在危害，或許是過去幾十年來各種各樣的干預選舉手段中，最令人擔憂的一種。在AI工具的幫助下，無論是要利用程式機器人冒充真人選民來做假民調、偽造影片或圖像，甚至欺騙性的機器人電話都更容易產生，卻又更難被快速辨別破解。

外國勢力也在AI的幫助下，更有機會影響美國選舉、或是破壞選民對民主制度的信任，正如長期以來美國官方不斷示警、來自中國或俄羅斯的假訊息——有賴於AI，中俄等外國勢力製造英文假訊息的語言障礙正在消失當中，過去閱聽眾尚能從重複措辭、用詞怪異或文法不通等明顯跡象來快速識別假訊息，但是隨著AI的翻譯能力和運用語言的能力急速提升，外國勢力利用AI製造的假訊息在文字、語句呈現上越來越自然、越來越難被一眼辨別。

美國喬治城大學研究安全與新興科技中心研究員戈德斯坦（Josh Goldstein）指出，「如果你是操縱一大堆假帳號的外國勢力，你不再需要設法流利地用目標受眾的語言寫出一篇通順的文章，你可以弄一個語言模型，直接讓它生成一篇文法、詞彙都很流利的文章。」

除了拿來製造錯假訊息，AI技術也可能被用來打壓特定的選民——《紐約時報》報導，兩名美國極右翼人士在2022年坦承曾利用AI，向中西部的黑人選民撥打超過6萬7000通機器人電話，電話內容中包括傳遞給對方錯誤資訊。溫特斯等專家指出，假設AI可以製造出更具個人特色的訊息，例如模仿特定政治人物、候選人或公眾人物，那麼可能會被用來向特定的族群選民散播關於民調或是投票的誤導訊息；若此類活動在更大範圍內被執行，還可能引起嚴重混亂。

用AI來偽造選民陳情信，也可能對政治人物和候選人產生誤導效果，讓理應為民服務、為民喉舌者弄不清楚、甚至錯誤理解選民的需求。康乃爾大學教授克普斯（Sarah Kreps）和奎內爾（Doug Kriner）就在2023年發表一項研究實驗，實驗內容是向全美國超過7000名州議員寄出數萬封電子郵件，這些郵件都號稱來自憂心忡忡的選民，但實際上裡面是AI產生的信件和真人撰寫的信件混雜。而從州議員處獲得的回覆幾乎都相同，而在回覆率方面，真人寫的電子郵件獲得的回覆率，僅比AI產生的郵件高2%。

大選即將到來，AI的實際影響仍然未知

距離美國總統選舉還有大約16個月的時間，而AI大部分的應用方式仍處於早期階段，其可能會在選舉投票中扮演什麼角色、發揮什麼影響，仍然是一個懸而未決的問題。研究人員表示，僅僅利用AI生成誤導性內容，並不代表AI就一定會對選舉產生影響。衡量、判別假資訊對社會實際造成的影響，眾所周知是一項艱鉅的任務。確認AI製造的假訊息是否出現、是否流傳是一回事，但衡量AI假訊息對資訊生態系統的影響又是另一回事。

大選還沒舉行，相關的政治宣傳活動已經展開，即使不論錯假訊息，部分政治活動也已經把AI生成的內容拿來應用，例如佛羅里達州州長德桑蒂斯（Ron DeSantis）5月在Twitter直播裡宣布將爭取共和黨的2024總統候選人提名，隨後也打算爭取提名的川普就用一段模仿該參選宣言的影片來嘲笑德桑蒂斯——模仿影片裡出現了AI模擬德桑蒂斯、特斯拉（Tesla）執行長馬斯克（Elon Musk）、和希特勒的聲音。6月，德桑蒂斯團隊也分享了AI生成的川普擁抱、親吻美國頂級傳染病專家佛奇（Anthony Fauci）的影像。

在2016年和2020年大選，川普的競選活動都很大程度的依賴其支持者製作的迷因圖和影片，裡面也包括被刻意編輯後製、具有誤導性的影片，讓選民產生「拜登不適合擔任總統」的感覺，而選舉觀察員警告稱，如今這類誤導影片的AI版本正在悄然出現。

更讓人憂心的是，在AI生成假訊息能力不斷增強的同時，錯假訊息散播的溫床——社群媒體平台開始取消一些內容審核措施，例如YouTube修改了其選舉誠信政策、Instagram允許反疫苗陰謀論者肯尼迪（Robert F Kennedy Jr.）恢復帳號、Twitter被馬斯克接手之後，原本的內容審核主管於6月離職，這代表Twitter的審核政策可能很快會改變。

研究人員表示，媒體素養和傳統的事實查核手段，要如何有效地阻止大量誤導性文字和圖像傳播，仍有待觀察，因為AI工具的進步，代表了一個新的挑戰。

戈德斯坦表示，「AI生成的圖像和影片的速度，比事實查核員檢視和破解它們的速度要快得多」，他另外指出，不斷渲染強調AI生成內容的能力，也會讓公眾相信任何東西都可以由AI生成，從而腐蝕社會信賴。

一些AI服務應用，包括ChatGPT，確實有設定防止產生錯誤訊息的政策和保障措施，並且在某些情況下也能夠阻止該服務被用於此目的，但目前還不清楚這些措施的具體效果如何，何況有些開源模組缺乏此類政策和功能。