民間團體：防治假訊息的活躍戰力

2024 年 06 月 19 日 | 卓越新聞電子報

陳洧農｜特約記者採訪報導

「總統大選期間的假訊息攻擊與台灣社會因應之道報告發表暨論壇」第二場主題為「公民團體如何破解選舉假訊息：成果與挑戰」，邀請到陳偉婷、黃兆徽、林玿弘以及寒山（Tim Niven）共同主講，並由公共電視董事長胡元輝擔任主持人。

本場次內容聚焦在：總統大選中的假訊息、生成AI製作的假訊息對資訊環境之影響、協同行為團體的觀察，以及中國資訊操弄之遞嬗。

胡元輝表示，在台灣假訊息的防治生態系統當中，政府、公民社會以及民間企業三方雖然彼此制衡，但同時也有著相輔相成的關係。（特約記者陳洧農攝）

大選常見的假訊息文類

陳偉婷表示，以往的假訊息比較常見的是簡單的圖片造假，例如將王金平寫春聯的照片變造成要求朱立倫道歉的網路P圖。這種移花接木的圖片只要會以圖反搜，就能夠輕易找到原始圖片，破解相對簡單。然而，現在AI作圖，甚至作影片的能力顯著提升，已經對事實查核造成相當的壓力。

AI假訊息對選舉可能造成的影響是國際矚目的議題，美國智庫「自由之家」就指出AI假訊息已經在巴西、法國的選舉中出現。斯洛伐克去年的國會議員選舉前48小時也曾出現AI假音檔，稱政黨主席買票。在如此接近選舉的時間點出現的假訊息，會使當事人澄清的時間受到壓縮，進而造成重大威脅。

陳偉婷表示，由於AI假訊息的查證有相當的門檻，光靠查核組織其實遠遠不足。因此必須讓大眾意識到：AI雖然是一個好工具，但也有被惡用的可能，使民眾理解 AI假訊息能做到什麼程度，以及如何防範，從基本體質提升台灣社會的假訊息抗性。

不能只靠查核組織

洪貞玲表示，今年總統大選的假訊息攻勢，大致分為三類，首先是AI生成的假資訊；第二類是誤導性論述；第三類則是協同行為（Coordinated behavior）。

AI生成的假訊息包含去年8月傳出的「柯文哲批評賴清德錄音檔外流」、「賴清德支持藍白合」、「習近平稱三組候選人都是台獨」等訊息。這類假訊息，或因技術粗糙，或因不合邏輯，多在早期就被辨識為不實資訊，因而沒有造成重大影響。

至於第二類「誤導性的論述」，洪貞玲認為，在此次的選舉中雖然沒有造成太大的衝擊，可是長期而言，對台灣社會產生的影響不容輕忽。根據台灣事實查核中心分析，2020到2022年間在網路上的誤導性論述第一大類就是各種跟選舉不當有關的傳聞，慢慢在民眾心中種下懷疑的種子。從國際關係的角度來看，則首重疑美論的操作，台灣與中國的關係也是誤導性論述的重點。

陳偉婷表示，事實查核中心去年分別針對公民數位識讀與媒體記者增能舉辦工作坊，盼能降低AI假訊息的危害。（特約記者陳洧農攝）

防治假訊息的死角

陳偉婷指出，事實查核中心的任務是針對民眾有疑惑的題目找出各種證據，供民眾參考，但是在政治議題的溝通上卻面臨很大的挑戰。「因為它容易流於意識型態之爭。」她說：「扯到政治議題，查核中心的可信度就突然變得很低。」另一方面，缺乏公開資料或權威資訊的議題，也不在事實查核可以處裡的範圍內，因此像是候選人隱私這類訊息，事實查核中心其實很難介入。

其實，除了政治議題或不具公開資料的議題外，還有一個地方是假訊息防治的死角。現任台灣民主實驗室研發長的寒山提到，儘管許多社群媒體平台都有各自的社群守則，但也會有漏洞可鑽。以臉書來說，如果使用既存的影片，配上變造過的聲音，讓影片中的人物唸出設計過的對白並不違反社群守則。這類做法原本大多是用來製作搞笑或嘲諷性的影片，但現在也被使用於資訊操弄中，可說是假訊息的無法地帶。

少數協同團體即可影響輿論

現任台灣人工智慧實驗室（Taiwan AI Labs，以下稱台灣AI Labs）內容執行長的黃兆徽表示，台灣AI Labs從2017年成立以來，一直都有進行與網路認知操作行為相關的研究。從去年的觀察中發現，生成式AI已經廣泛應用在資訊操弄上，而且，只需要少數的協同團體就足以主導議題走向。研究顯示，有兩個臉書上的協同團體，分別有400多個帳號跟200多個帳號，但光是這兩個協同團體就佔了有關候選人聲量操作的45%。

據觀察，主流的協同群會以中文攻擊台灣政治人物，在美國粉絲頁中就轉用英文攻擊拜登政府，表現出廣泛的雙語能力。她說，這些協同團體其實沒有支持特定的候選人，目的只在撕裂社會，並散播「獨裁比民主更有效率」的論述；在國際議題上則總是見縫插針地抹黑友好台灣的國家。

協同團體行為特徵

值得注意的是，當協同團體在網路上炒熱議題時，一般使用者的留言量也會隨之提升，顯現出「帶風向」的實質效果。黃兆徽說，協同團體在臉書上對不同政黨的候選人都會加以批評；但當平台轉往TikTok時，就直接「不演了」，壓倒性地支持特定政黨的參選人，並對中國表現正面態度，如讚揚中國武力強大、支持中國統一台灣等。

根據觀察，此次大選中居主導地位的協同團體，在一年內創建了大量的臉書粉絲團，並且會潛入、汙染既有的社區、校友社團，也會入侵新聞媒體的官方粉絲頁來帶風向。這些協同團體的帳號大多是一年內新創的帳號，而且使用了相當多的AI生成頭像。

黃兆徽指出，用生成AI來製作假訊息非常容易，以致於查核工作者有如身處闢謠的地獄（debonking hell），無法跳脫。（特約記者陳洧農攝）

黃兆徽提醒道，由於短影音的影響力急速上升，協同團體也廣泛使用短影音來作為資訊操弄的工具。值得注意的是，有問題的平台已經不只是TikTok，因為協同團體在TikTok上生成短影音之後，會將之傳播到其他平台上，閱聽人應隨時保持警覺。

AI衝擊資訊環境

台灣資訊環境研究中心（Information Operations Research Group, 以下稱IORG）資料工程師林玿弘表示， AI對資訊環境的影響可以從三個面向來理解：「更快」，亦即假訊息產製流程的加速；「更多」，不論在內容或傳播形式上，假訊息都比以往更加多元；「更難」，對閱聽人而言更加難以比對、辨別真偽。

IORG去年對16萬個Youtube帳號進行分析，發現在ChatGPT出現之後，部分頻道的產製流程加快，其發文量較ChatGPT出現之前多了兩個標準差。這些頻道從2018年設立以來都不曾出現這種產製流程的快速變化，卻在ChatGPT問世後出現了顯著改變。若將2022年跟2023年相比，可看出有越來越多的頻道顯現出產製加速的現象。

林玿弘指出，這些頻道大多由AI語音生成，平常主要內容可能是關於佛法、健康、娛樂等，但是到了選前，就會突然談論政治、陰謀論。

協同發文如何產生影響？

林玿弘說，在過去，臉書當中的協同行為傳統上會在短時間之內大量發文；耐人尋味的是，其實這些發文並沒有多少點閱。如果沒有人看，協同行為要怎麼產生影響？針對這點，IORG在2022年上半年進行研究，發現如果特定關鍵字的使用達到高峰，將會提升兩個小時之後使用相同關鍵字的發文觸擊率。也就是說，密集而快速地發文，的確會影響平台的演算法。

林玿宏表示，IORG收集資料的平台今年多了TikTok跟Dcard，每天大約會處理1500萬份文本。（特約記者陳洧農攝）

中國資訊戰的方向演進

寒山指出，中國資訊戰的目標是併吞台灣，在這個目標之下，資訊戰的操作有三大方向：第一是推廣中國的好，也就是所謂的「說好中國故事」；第二是攻擊台灣的民主；第三則是製造對戰爭的焦慮。

在過去，這三大方向的操作途徑都會經由假帳號、內容農場、中國官煤、大V（意指在微博上十分活躍，擁有大量粉絲群的網紅），以及在地協力者來進行。而經多數年的演進與試錯之後，「推廣中國的好」這類論述主要轉往抖音上操作，與AI Labs的觀察相符。

至於「攻擊台灣的民主」與「製造對戰爭的焦慮」這兩個方向，中國則傾向於透過在地協力者與假帳號來操作。理由是，相較於由中國官媒或大V來製作假訊息，在地協力者「討論國內事務」的角度會更加有效，政治成本也較低。

寒山指出，網紅與資訊操弄的經濟對民主國家來說是不利的要素。（特約記者陳洧農攝）

生成AI應用推測

談到生成AI在資訊戰當中的應用，寒山表示，截至目前為止，「深偽」（deepfake）還是比單純的影像變造少見。他提到，在Tiktok生成的假訊息影片較有可能瞄準所謂的側翼進行投放，因為相較於資訊是否為真，側翼往往更重視資訊的意識形態是否與自身一致。另一個容易成為投放目標的，則是中間選民。原因是，中間選民經常也是對於政治較冷感的族群，因而較缺乏可供辨別的相關知識。

寒山表示，生成AI在資訊操弄的各種應用中，有一種特別值得注意：更加「真實」的假帳號。寒山說，這類假帳號有著更為完整的背景來歷與立體的「人設」，而且平常平時也會像真人一樣，在非政治的討論區留言，十分難以辨識。目前在台灣雖然還沒有發現過，但烏克蘭的資訊戰研究者已經找到這種由俄羅斯使用的假帳號，值得吾人警惕。

傾斜的天秤

對於中國的資訊操弄，寒山指出數個負面趨勢，首先是中國控制的平台。他說，我們都看過這樣的網美帳號：每天都會發大量貼文，其中三成是美照、三成是美食、三成是風景，剩下一成則是習近平的發言。「中國控制的平台有點類似這種帳號，但是在一個平台的規格。」

另外就是資源的不對稱，中國投注極大量的資源操作資訊戰，每天不斷地學習、發展。相較之下，防守方不只資源有限，而且往往只能被動的「驗屍」，分析短期影響。「我們的對手一定是看長期的。」

他說，其實生成AI對於資訊戰的防守方也可能有若干助益，例如減少資源不對稱的差距。最後，寒山提醒道，台灣真的有民主的盟友，但是還需要更多的溝通協調。