Google 新 AI 工具瞄準事實查核，協助追查 AI 假影像
特約記者廖彥甄編譯報導
本文翻譯自《尼曼新聞實驗室》（Nieman Lab）原文：〈Google’s new AI tool helps fact-checkers investigate AI fakes〉，作者安德魯．戴克（Andrew Deck）是《尼曼新聞實驗室》 AI 議題的特約撰稿人。
當 AI 生成影像愈來愈逼真，新聞媒體面對的挑戰，也不再只是判斷一張圖片「是真是假」。每天，事實查核團隊都在處理大量在社群媒體流傳的虛假與誤導性影像，從AI 生成的政治人物照片、被抽離原始脈絡的災難畫面，甚至是針對企業家與公眾人物製作的深偽內容。
Google DeepMind 開發的實驗性工具 Backstory，正試圖解決這個問題。
Backstory 是一款由 Google DeepMind 開發的實驗性工具 ，使用者只要上傳影像並提出問題，Backstory 就能檢查影像是否可能由 AI 生成、是否存在操弄跡象，並追蹤它過去在網路上的出現紀錄。系統以 Google Gemini 大型語言模型（LLM）為基礎，再透過 AI 代理選擇適合的驗證工具與執行順序，最後產出一份附有來源與查核步驟的報告，整理影像的來源、真實性與流傳脈絡。
▎一站式影像查核？ 《今日印度》先試用
印度主流英文新聞媒體《今日印度》（India Today）目前實驗性的將 Backstory 用於事實查核工作，協助記者加快影像驗證與資料蒐集，提升查核效率。
《今日印度》事實查核團隊負責人克里希那（Bal Krishna）表示，過去，一張可疑影像可能得先送進 AI 影像偵測工具，再進行反向圖片搜尋，接著由記者手動整理影像曾經出現過的網站、時間點與上下文，整個過程往往需要在多個平台間來回切換。「現在可以集中在同一個地方處理，這就是 Backstory 最大的優勢。」克里希那說。
現在 Backstory 尚未全面開放，只透過 Google 的 Trusted Tester 測試計畫提供使用。《今日印度》的事實查核人員是數千名測試者之一，其他參與者還包括記者、開放來源情報（OSINT）專家、圖書館員及資訊素養研究者。
▎AI 查核工具開發 多未考量記者需求
然而，光是這種開發模式，就與部分現有人工智慧驗證工具形成鮮明對比。
根據普林斯頓大學資訊科技政策中心 7 月發布的報告，不少 AI 驗證工具在開發過程中，並未充分納入新聞工作者的實際使用情境。報告中指出，其中一個問題是市場過度聚焦「這張圖是不是 AI 生成的」。但在新聞現場，最常見的誤導手法未必需要 AI。真實照片只要被抽離原本的時間與地點，再配上一段錯誤文字，就可能成為假訊息的一部分。
另一個問題則是許多 AI 偵測工具習慣給出一個看似精確的百分比，例如「有 80% 機率為 AI 生成」。但該份報告指出，這類分數的計算方式往往不透明，使用者不清楚判斷依據，也很難向讀者解釋「80%」究竟意味著什麼。
▎看準需求缺口 瞄準「中間地帶」用戶
對此，Google DeepMind 旗下 Frontier AI Research 團隊產品經理達姆（Zoe Darmé）表示，記者目前仍是 Backstory 最主要的使用族群，但團隊希望未來逐步擴大使用範圍。她預期的主要使用者仍可能是那些重視影像來源、傳播脈絡與驗證細節的人，而不是只想快速得到真假答案的大眾。
媒體素養專家、事實查核方法 SIFT 創始人柯斐德（Mike Caulfield）也認為，這或許正是 Backstory 最大的亮點。與其打造一款人人都能用的通用驗證工具，不如服務那些有查核需求、卻沒有專業 OSINT 團隊支援的使用者，可能更有實際影響力。例如許多需要驗證影像的記者，不一定有預算訂閱高階 AI 偵測服務，也未必熟悉十多種 OSINT 工具。Backstory 若能把部分複雜流程整合起來，就有機會降低影像查核的門檻。
▎亮點功能：追出影像歷史脈絡
在 AI 影像偵測方面，Backstory 可串接 Google 的 SynthID，檢查影像是否帶有數位浮水印，以判斷內容是否由 Google 的 AI 影像生成模型 Nano Banana 製作。此外，它也會檢查影像的「內容憑證」（Content Credentials），確認是否含有依循內容來源與真實性聯盟（C2PA）標準加入的加密中繼資料。Google、Adobe 與 BBC 等機構都已採用相關標準。
不過，柯斐德指出，Backstory 真正實用的功能，在於追蹤它在網路上的流傳歷史。記者可以透過系統回溯影像較早出現的情境，觀察同一張照片如何隨時間被重新使用和詮釋，甚至被放進完全不同的敘事裡。
「真正耗時的是把這些資訊整合起來，還原一張影像完整的故事。」柯斐德表示，原本可能需要約 50 分鐘的初步查核流程，Backstory 有機會縮短到約 3 分鐘。
▎Google 生成式 AI 影像的矛盾
但 Backstory 也帶出 Google 難以迴避的矛盾。Google DeepMind 本身，正是近年推動生成式 AI 影像普及的重要業者之一。旗下影像生成模型 Nano Banana 過去曾因被用於製作涉及政治人物、公共衛生議題的虛假內容，以及遭詐騙者利用而受到外界批評。
今（2026）年 7 月下旬，Google Earth 即因整合 Nano Banana 引發爭議。相關功能允許使用者生成或修改 3D 衛星影像，隨即引發外界對誤導性地理影像擴散的疑慮。之後 Google 宣布撤回相關功能，並表示將加入更嚴格的防護措施。
對此，達姆表示，Backstory 的開發並非直接回應上述爭議，而是著眼於更廣泛的問題：網路使用者對媒體內容的信任正在下降。她指出，隨著影像生成工具逐漸普及，使用者對內容來源、真實性與驗證工具的需求也同步增加，因此 Google 投入開發更容易使用的查核技術。
▎AI 工具用於查核的侷限
柯斐德表示，使用大型語言模型協助影像驗證時，一項常見風險是「融合」（conflation）。模型可能把兩張外觀相近、文字描述也相似，實際上卻毫無關係的影像混為一談。舉例來說，若上傳的影像，能用和另一張網路熱門圖片非常相似的文字來描述，LLM 便有可能將兩者搞混。
此外，在追蹤影像來源時，Backstory 只能引用已被搜尋引擎索引的內容。這代表即使系統找到一張影像「最早」出現的網站，也不代表那就是真正的源頭。影像可能早已在 TikTok、WhatsApp、Signal 或其他搜尋引擎難以完整索引的封閉平台中流傳。
因此，克里希那表示，目前團隊不會在正式發布的事實查核報導中或直接引用 Backstory 生成的內容。記者仍必須自行確認其中的關鍵資訊，所有結果都需要經過人工核對。儘管如此，他仍高度肯定 Backstory 的實用性。隨著更多測試者的回饋被納入開發流程，他也預期工具的功能與準確性仍會持續改善。
