五年一次、全球規模最大的印度選舉 如何受到AI造假與審查威脅?

2024 年 05 月 23 日 | 卓越新聞電子報

donation

陳品潔|特約記者編譯報導

英國牛津大學路透新聞學研究所(Reuters Institute for the Study of Journalism,RISJ)文章指出,人工智慧(AI)生成的造假訊息,可能會干擾本次印度選舉。印度媒體面臨兩大難題:一為AI錯誤資訊引發的風險;二是當局祭出強硬高壓(heavy-handed)的數位法規,可能會反過來威脅到言論自由。[1]

印度大選將於2024年4月19日到6月1日舉行,選民人數高達9.69億人,各地分別於4月19日、4月26日、5月7日、5月13日、5月20日、5月25日和6月1日進行投票,並於6月4日公布結果,歷經六周,是世界上規模最大的選舉。[2]

根據《印度憲法》第83條規定,印度國會人民院(下議院)議員任期為五年 [3]。印度總統應任命人民院多數黨領袖為總理,印度總理為實質首長,多數黨組閣領導政府運作\[4]。

印度總理莫迪(Narendra Modi)代表由印度人民黨(Bharatiya Janata Party)組成的政黨聯盟全國民主聯盟(National Democratic Alliance,NDA),希望尋求二度連任迎來第三個任期。主要競爭對手為國民大會黨(Indian National Congress)領導的國家發展包容性聯盟(I.N.D.I.A)。

AI聊天機器人稱「莫迪是法西斯」引爭議

英國牛津大學路透新聞學研究所專文指出,2024年2月社群媒體平台X(前身推特)的一則貼文在印度掀起波瀾。Google開發的生成式AI聊天機器人Gemini,面對「莫迪是否為法西斯主義者(fascist)」的問題時,稱莫迪「施行專家認為是法西斯主義的相關政策」。

Gemini進一步無端宣稱:「指控基於多種原因,包含印度人民黨的印度教民族主義意識形態、鎮壓異議人士,以及暴力對待宗教少數群體。」貼文作者阿納布(Arnab Ray)進一步詢問中國國家主席習近平與其它國家政治領導人是否為法西斯時,皆沒有諸如回應莫迪一般的明確指控答案。

事件爆發不久後,Google迅速回應已解決問題 [5],並解釋「Gemini為一種創造力和生產力工具,然而並非全部資訊皆真實可信(reliable),尤其當回應關於時事、政治話題或處於發展中的新聞」,稱團隊致力不斷改善功能。

儘管Google緊急止血,風波並未止息。印度電子與資訊科技國務部長拉吉夫.錢德拉塞卡爾(Rajeev Chandrasekhar)嚴謹看待這次爭議,對此指出:「此直接違反印度資訊法規與刑法。」並直接點名Google AI、Google India等單位,在Google發表澄清聲明後,錢德拉塞卡爾再度回應表示「平台不能免於法律約束」。

假消息從何而來? 兩黨受訪者均擔憂

路透新聞學研究所專文分析,儘管當局認為AI造假是一大問題,「諷刺的是,政黨本身一直積極在競選活動期間使用AI深偽技術(deepfakes)」進行宣傳,從AI生成多種語言的公共演講,到已故領導人的以假亂真影片。 [1]

在生成式AI盛行以前,假新聞就成為棘手議題。英國廣播公司BBC於2018年發布報告,研究印度、肯亞和奈及利亞參與和傳播假新聞狀況。報告指出:「對特定人而言,增強民族認同情感比事實更為重要。基於社群媒體的分析指出,右翼比左翼網路組織性更強,推動民族主義的假故事。」 [6]

路透新聞學研究所2019年報告指出,印度受訪者密切關注極端的政治和虛假內容,部分政治團體「極力傳播謠言」。這份研究則顯示,無論政治傾向為何,印度民眾均擔憂假消息傳播。 [7]

印度人在網路的活動相當頻繁,涵蓋生活工作的各個層面,活躍使用者的數量將於2025年達到9億。[8] 世界經濟論壇(World Economic Forum)《2024 年全球風險報告》(Global Risks Report for 2024),分析了各國在未來十年將面臨的挑戰,印度面臨極高的資訊造假風險 [9]。

資訊部長錢德拉塞卡爾指出,由於印度網路用戶規模龐大,比別國更早意識到AI帶來的風險,並警告社群平台須依循「明確規則」對平台上任何AI生成的「假造」內容負責。 [10]

曲解原意、假造片段 AI手法繁多

印度事實查核機構「Alt News」於2020年發現16條執政黨印度人民黨資訊組負責人馬爾維亞(Amit Malviya)分享多段內容 [11]。

包含聲稱民眾為了免費食物走上街頭遊行、抗議者高喊巴基斯坦萬歲、穆斯林學生有反印度教徒的口號、記者推動伊斯蘭社會等,後續被證明為錯誤資訊。

此外,馬爾維亞發表印度首任總理賈瓦哈拉爾.尼赫魯(Jawaharlal Nehru)與多位女性同框合照的拼貼推文,暗示其行為不端,即使這些女性多數為尼赫魯的親屬。馬爾維亞其後刪除這篇貼文。

在反對黨國民大會黨主要領導人拉胡爾.甘地(Rahul Gandhi)2023年底開始在印度各地活動,為2024年的選舉造勢之際,假消息層出不窮地冒出。包含宣稱國民大會黨發放現金群眾,與拉胡爾欣賞露骨歌曲的畫面,其後發現音訊經過變造,片段取材自寶萊塢電影。 [12]

政府是否有權禁止抗議帳號與內容?

印度農民於2020年8月為期一年多的大規模抗議,不滿印度政府將不再以保證價格(Minimum support price, MSP)收購糧食,市場糧食價格將被大型企業壓低。當年以政府撤回通過的三項農業法案落幕。

自2024年年初,印度農民認為政府沒有遵守關於MSP合約、農民貸款減免與退休金的承諾,因而再次恢復抗議活動。 [13]

報導抗議活動的一些記者、意見領袖和農業工會成員的X(前身推特)帳號被停權。即使禁言本身並非傳遞假消息,卻可能「過濾」公眾必須知道的重大議題。

X於官方帳號證實這點,稱已根據印度政府的行政命令刪除帳號,並稱行政命令「包括監禁與巨額罰款」,並補充X認為「言論自由應延伸至這些貼文」,「不認同」印度政府決定,受限於法律無法公布行政命令細節,X擔憂此會導致「缺乏問責和獨斷決策」。

    網路消息虛實難辨 賦權審查侵蝕言論自由

    非營利組織WITNESS人權倡議者與科技專家格雷戈里(Sam Gregory)指出:「AI能夠宣稱現實是偽造的,以及偽造現實。」以極具說服力的方式扭曲事實,讓人們對於無論資訊是真是假,皆失去信任或態度混淆。

    他舉例,執政黨印度人民黨政治人物安納馬拉伊(K. Annamalai)發表反對黨帕蘭尼維爾.蒂亞加.拉詹(Palanivel Thiagarajan)的兩段影片,一段聲稱黨內的人員腐敗,另一段讚揚他的對手。根據分析結果,一段剪輯被竄改過,另一段真實存在。

    印度網路自由基金會(Internet Freedom Foundation)執行總監瓦格爾(Prateek Waghre)指出,印度政府不斷擴大2000年的《資訊科技法》(Information Technology Act)的解釋與規範,直言其中建議修正案可能「違憲」。

    瓦格爾指出,修正案將控制媒體出版業,數位平台義務不僅得「告知」用戶內容有疑慮,還將「限制」用戶行為,引來主觀解釋假資訊、選擇性執行等問題,並根據政府指定的事實查核單位行動。

    印度編輯協會(Editors Guild of India)指出:「判斷是否為假新聞不能全權由政府掌握,此將導致媒體受到審查,新聞自由更容易被新流程打壓。新聞資訊局或任何中央授權進行事實查核的其它機構將被賦予權力,迫使平台減少政府認為有問題的內容。」為了防止假資訊蔓延,卻反過來斲傷言論自由 [14]。

    參考資料

    1. Reuters Institute for the Study of Journalism – 〈AI deepfakes, bad laws – and a big fat Indian election
    2. BBC – 〈India election 2024: When are they, why do they matter and who can vote?
    3. 世界憲法大全 – 〈印度共和國憲法
    4. 台灣國際研究季刊 – 〈印度的政治參與和國會選舉
    5. The Hindu Businessline – 〈Google clarifies Gemini AI not reliable on political topics after AI’s ‘biased’ reply on PM Narendra Modi
    6. BBC – 〈Nationalism a driving force behind fake news in India, research shows
    7. Reuters Institute for the Study of Journalism – 〈India Digital News Report
    8. The Hindu – 〈Over 50% Indians are active internet users now; base to reach 900 million by 2025: report
    9. World Economic Forum – 〈WEF The Global Risks Report 2024
    10. The Financial Times – 〈India tells tech giants to police deepfakes under ‘explicit’ rules
    11. Scroll – 〈Amit Malviya’s fake news fountain: 16 pieces of misinformation spread by the BJP IT cell chief
    12. The Economic Times – 〈Disinformation stalks Rahul Gandhi on trans-India trek
    13. BBC – 〈Farmers’ protest: Protesters to resume Delhi march over crop prices
    14. Editors Guild of India – January 18th, 2023:〈The Editors Guild of India is deeply concerned by the draft amendment made to the Information Technology Rules, 2021, by the Ministry of Electronics and IT (MEITY) that gives authority to the Press Information Bureau (PIB) to determine the veracity of news reports, and anything termed ‘fake’ will have to be taken down by online intermediaries, including social media platforms. The amendment was uploaded on the Ministry’s website on January 17, 2023.