【新興領域/2023.10焦點】假消息鋪天蓋地— 以巴衝突下社群平臺無聲的戰火

一、以巴衝突一觸即發

以色列當地時間10月7日凌晨，遭受巴勒斯坦伊斯蘭主義「哈瑪斯」（Hamas）半世紀以來最大規模的攻擊。當日該組織對以色列境內發射約5,000枚火箭彈藥，並透過陸、海、空方式進入當地社區，俘虜多名以色列平民及士兵作為人質，7日清晨以方死傷人數預估逾250人。

面對猝不及防的攻擊，以色列總理納坦雅胡（Benjamin Netanyahu）及其安全內閣旋即於7日晚間投票通過戰爭決議，正式向哈瑪斯宣戰，該報復行動命名為「鐵劍行動」（Operation Swords of Iron），第一階段動員士兵及預備役軍人約10萬人，開始對哈瑪斯所在的加薩走廊（Gaza Strip）進行大規模空襲，使加薩地區唯一發電廠燃料耗盡，多數平民處於斷水、斷電、斷糧狀態，形同人間煉獄，引發人道危機受各國關注。

目前，關於這場戰爭將如何收場還未可知，而聯合國及多數各國則強烈呼籲以巴雙方停火、勿讓戰事再升級，深怕這場戰爭將會誘使其他國家及激進組織有所行動。對此，美國白宮國家安全會議發言人柯比（John Kirby）敬告其他國家，切勿趁以色列危急時刻輕舉妄動，一方面擔憂出現更嚴重的區域衝突，另外也憂心其他阿拉伯國家將捲入其中，如此，將不利於沙烏地阿拉伯與以色列關係正常化的進展。

圖片來源：網路（https://www.gvm.com.tw/article/106850）

二、社群平臺成假訊息溫床

美國小說家馬克吐溫曾說，「當真理還正在穿鞋的時候，謊言就能走遍半個世界」（A lie can travel halfway around the world while the truth is putting on its shoes.），在社群時代，更加應驗了他這一番話，特別是戰爭爆發後，社群平臺簡直成了假新聞、偽造影音散播的溫床，不知實情的大眾與意圖不軌的份子都成了「認知作戰」的一員，引發不必要的恐慌與誤判。

事實上，自從烏俄戰事爆發後，如何應對戰爭中的假訊息一直是社群平臺頭痛的問題，萬萬沒想到問題還沒有個穩妥的解方，以巴衝突又爆發了。總部位於特拉維夫的假訊息檢測公司Cyabra，在戰爭爆發後分別對Twitter/X、Facebook、Instagram和TikTok等四大平臺中200萬條貼文進行分析，發現所有關於戰爭的貼文中有高達四分之一與事實不符，且這類貼文已被瀏覽超過5億次，顯然假訊息已病毒擴散至全球用戶。

以實際貼文為例，一支號稱哈瑪斯的砲彈殲滅以色列直升機的影片，在X平臺上廣泛流傳，但隨後卻馬上被《CNN》證實是有心人士把軍事電玩遊戲「武裝行動3」的畫面移花接木而成的，影片被平臺下架前已超過50萬次瀏覽。另外，還有像是一段哈瑪斯武裝份子俘虜以色列高階將領的影片，點閱率在短時間就創下200萬次，但《CNN》再度出面闢謠，該影片實際上是亞塞拜然政府逮捕分離份子領袖的畫面。

面對漫天飛舞的假訊息，英國查核機構「新聞守門人」（NewsGuard Technologies）為強化一般名眾辨認並提高警覺，將目前網路瘋傳關於以巴衝突的內容分為四大類型，包含(1) 哈瑪斯攻擊屬於以色列自導自演；(2) 偽造孩童遇難影片博取同情；(3) 美國拜登總統金援以色列80億美元，以及(4) 哈瑪斯武器來自烏克蘭等。

圖片來源：X平臺（https://user230683.pse.is/5bxy2y）

假訊息猖獗 又以馬克思領軍的「X」最為慘烈

此外，守門人也指出，以巴衝突的假訊息中，以馬斯克（Elon Musk）接手的社群平臺「X」最為猖獗，甚至部分通過認證的藍勾勾帳號也在轉傳，導致一般用戶動態牆上真假訊息難辨；全球政治風險諮詢公司「歐亞集團」（Eurasia Group）總裁布雷默（Ian Bremmer）更表示，目前在社群平臺「X」上假訊息擴散的情節最為嚴峻，是他從事政治時事分析生涯以來，前所未見的程度；美國普林斯頓大學電腦科學助理教授喬納森·梅耶爾（Jonathan Mayer）更直言「X平臺已然經營失敗」。

前身為Twitter的X平臺之所以假訊息充斥，原因在於馬斯克入主後大打「言論自由」的旗幟，不但將員工人數從7,500人縮減至約1,500人，更削減了公司內許多關於內容與安全政策的職務，並開始販售過去僅限知名用戶和專業記者的藍勾勾認證，還不斷強調在言論自由的前提下將容許在法律許可的範圍內保留負面或令人感到不適的內容；另一方面，面對不當貼文，僅依賴「社群筆記」（community notes）功能，透過志工為其編寫註釋提醒用戶。上述種種皆被觀察家批評，用戶快速瀏覽的過程中，根本不易察覺與閱讀這類註記，認為馬斯克過於輕忽假訊息的影響力，高估了社群大眾的自治程度。

因此，在以巴戰事開打後，X平臺面對激增如雪花般的貼文，充滿刻意誤導或重新利用的舊影片，顯得完全無力招架。據社交威脅情報公司Cyabra指出，在戰爭後48小時內，X、Twitter、TikTok和Facebook等平臺上有關戰爭的貼文就有超過40,000個假帳戶，其大部分早在一年多前就創建完成，是為往後的認知作戰做準備，這些假帳戶試圖主導社群話題，在短短期間就傳播了超過312,000條的貼文和評論。

三、各國政府處理態度

歐盟祭出限期改善令

2022年11月，歐盟《數位服務法案》（DSA）生效，要求大型網路平臺和搜索引擎採取更多措施來應對違法內容和公共安全風險。而10月7日，自極端伊斯蘭主義組織哈瑪斯對以色列發動恐怖襲擊以來，面對成千上萬的假訊息，歐盟委員會基於DSA法案已向各社群平臺施壓，要求刪除非法和有害的內容，否則將被處以巨額罰款。

10月10日，歐盟數位專門委員布雷頓（Thierry Breton）眼見X平臺成為大量假訊息生成的毒窟，發送額外訊息予平臺所有者馬斯克，加大對X平臺的壓力，敦促其必須在24小時內採取行動，以阻止更多非法內容和捏造訊息在平臺上傳播。X平臺則回覆表示，在以巴衝突後三天，平均每天做出約8,900個審核決定，但歐盟顯然對此報告成效不甚滿意。

歐委會說明，Facebook每天能做出415,000個審核決定，相比之下，X平臺審核效率遠不及其他平臺，且在約3/4的假訊息案例中，X平臺僅決定應用NSFW（不安全工作）的標籤標註，並未刪除貼文，許多用戶還是會平臺上持續看到不符合事實的圖片或影像。

因此，10月12日，歐委會對外表示，X平臺應立即將與恐怖主義相關之仇恨言論及暴力內容撤除，且必須於10月18日前提供有關危機處理與平臺操作的詳細資訊，並在10月31日前針對其他問題詳細回覆，反則將因違反DSA法案而面臨營業額6%的罰款（恐高達1.8億美元）。

德國自主退出平臺

德國聯邦反歧視工作組（Antidiskriminierungsstelle des Bundes）10月11日上午也向X平臺開出第一槍，該組織認為X平臺刻意散布對變性者和酷兒的敵意言論，且關於種族主義、厭女情節、反猶太主義和民粹主義的內容大量增加，作為國家機構，應肩負眾人的榜樣，而X平臺不再是公共機構可以容忍的環境，決定在X平臺上發布退出聲明後刪除帳號；同時，也呼籲聯邦政府也退出X平臺。

目前，德國聯邦政府發言人霍夫曼（Christiane Hoffmann）則回應，政府將向該社群尋求更多對話空間，並持續關注及審查X平臺的適用性，暫不考慮退出。

四、社群平臺回應與作為

Meta

相對於X平臺放任式管理，臉書母公司Meta則較為積極。Meta表示，襲擊發生的三天內，逾79.5萬條希伯來語或阿拉伯語內容被該平臺刪除或標記為「令人不安」，且基於綁架受害者的安全與隱私考量，暫時擴大反暴力和煽動仇恨政策，刪除明確顯示遭哈瑪斯劫持人質的內容，並防止其被複製後再次分享，同時，降低演算法敏感度，以避免可能違反規則的內容在Facebook、Instagram和Threads平臺上被推薦。

另外，Meta還緊急設立了一個特別行動中心，配備精通希伯來語和阿拉伯語的專家，24小時全天候工作，對違規內容採取行動，並與該地區的第三方事實核查人員進行協調，以抑止平臺上假訊息繼續擴散。

TikTok

坐擁全球15億月活躍用戶的TikTok則表示，10月7日哈馬斯對以色列平民進行殘酷襲擊後，該公司立即調動大量資源和人力來維護社群安全與平臺運作的完整性，並累計於一周內刪除了超過50萬個短影音、關閉了「受影響地區」的8,000個直播內容。

該平臺強調，不會容忍煽動暴力或傳播仇恨意識形態的企圖，並對讚揚暴力和仇恨組織及個人的內容採取零容忍政策。10月15日TikTok宣布，正在建立一個指揮中心來協調其在世界各地「安全專業人員」的工作，包括改進用於自動檢測和刪除圖形及暴力內容的軟體，並僱用更多會說阿拉伯語和希伯來文的人來進行審核，防止暴力、仇恨或誤導性內容在平臺上繼續流竄。

五、資金市場消息

除了面對當下鋪天蓋地捏造的戰爭訊息外，事實上，這些年來許多大型科技公司在訊息查核方面早就投注許多心力。以Meta為例，自2016年以來，已投入超過1億美元經費支持事實查核專案，更於2018年斥資達3,000萬美元收購總部位於倫敦的Bloomsbury AI，旨在利用該公司AI能量打擊假新聞。

此外，各國政府為了國安考量，以及政策訊息布達的正確性，也是抵抗假訊息資金市場中特別熱情的支持者。以美國為例，其國務院曾於2018年表示，每年分配超過10億美元的公共資金打擊假訊息；而位於大西洋彼岸的歐盟則是以資助人工智慧方案啟動反假訊息行動計畫；另外，還有如英國則於2019年設立為期3年、1,800萬英鎊的「假新聞基金」，特別用於打擊東歐各地產製的虛偽內容，並強健西巴爾幹地區的獨立媒體。

再者，雖抵抗假訊息對個人消費端並無明顯的吸引力，但該項目或專案近幾年越來越引起投資人的關注。根據Crunchbase 2023年2月的數據統計分析，累計過去至今，投資人向致力於打擊假訊息和錯誤訊息的各類新創公司投入超過3億美元資金，其中更有公司獲投總金額超過1億美元，分別為舊金山的Primer和特拉維夫的ActiveFace，兩家公司都開發了可以識別假訊息活動的人工智慧工具，以下分別介紹之：

Primer

2015年，網路公司Primer創立於美國舊金山，它是一家專門從事人工智慧與機器學習的數據分析公司，目前由Sean Moriarty擔任首席執行官。2020年，Primer獲得美國政府青睞，與美國特種作戰司令部、空軍和陸軍官員合作，增強部隊當中的機器學習能力，在任務規劃、預測性後勤到加速情報及決策週期等方面合作；此外，也同時為美國前100大公司提供數據解決方案，提高企業資訊管理的效率，並縮短人為觀測與決策的時間。

2023年3月，該公司還推出了Primer Delta AI平臺，這是一個能自我管理的知識庫，可以在幾秒鐘內分析數百萬份文件、數小時內即可在本地和雲端部署，並模仿google的搜尋功能，分析師可以透過組織內部網路簡單地提取與公司有關的資訊，再加上其專有的自然語言處理（NLP）技術提供支持，使解決方案模型可以更快、更準確，甚至根據客戶資料和工作流程進行客製化。目前，小型企業用戶已經可以直接從AWS Marketplace購買Delta Lite版本。

同年（2023年）6月，Primer宣布獲得首輪6,900萬美元的D輪投資，由Addition領投，美國創新技術基金（USIT）也有參與其中。根據Crunchbase數據，該公司獲投總額達到2.37億美元。而此輪投資資金能使Primer加速生成式人工智慧和尖端機器學習模型的研發、培養人才，隨著客製化的大型語言模型功能已整合到安全產品中，Primer正在改變分析師、操作員和決策者理解開源和專有資料的方式，透過自動化任務和工作流程，提高工作效率，並運用他們專業知識來發現隱藏在數據中的細節。

Primer執行長Sean Moriarty表示：「Primer利用人工智慧幫助企業理解大量文字資料，使用機器學習技術來解析和整理跨多種語言的大量文檔，包括檢測虛假資訊，並為那些支持和捍衛民主價值的人提供必要工具，成為國防和情報機構及消費品牌，以完成最關鍵的任務。」

圖片來源：Primer官網

ActiveFace

2018年，ActiveFence創立於以色列特拉維夫，目前由Noam Schwartz為聯合創辦人兼執行長。ActiveFence透過深度情報研究、人工智慧偵測有害內容和平臺審核等方式提供全方位保護，以100多種語言防範全球30億用戶受到各種可能的線上傷害，包括虐待兒童、假訊息、仇恨言論、恐怖、詐欺等。

2023年5月，ActiveFence新的報告揭示生成式人工智慧如何被濫用，主要從三個方面著手，包含從視覺圖像到色情敘事，創作兒童性虐待材料；生成的欺詐性圖像騙取生命、錢財；深偽（deepfake）技術製作並鼓吹極端主義音訊或文件等。因此，ActiveFence宣布，它將為生成式AI發展（GenAI）平臺提供六大功能，包含自動審核提示、自動過濾輸出、AI模型安全測試、生成式AI紅色警告、暗網及外平臺威脅報告，還有生成式人工智慧T&S平臺，提供端到端的執行與管理。

此外，2023年9月ActiveFence宣布策略性收購Spectrum Labs。Spectrum Labs係為自然語言內容審核領域的領導者，能透過人工智慧進行上下文檢測，包含社交媒體平臺、消費品牌、遊戲和應用程式中的有毒用戶和虛偽內容，構建更好的網路環境，保障數十億用戶的線上安全。如今，透過收購Spectrum Labs，ActiveFence在其對端到端線上安全的功能上取得了飛躍的進步，能夠以前所未有的規模即時、準確地識別和減輕線上風險，創造更客製化及無縫的使用者體驗。

ActiveFence 聯合創始人兼首席執行官表示：「結合兩家公司的優勢，不僅實踐了我們引領行業創新的堅定承諾，更有機會樹立新的行業基準。」

圖片來源：「Founder Storiez」Youtube頻道

六、結語

在過去，地下電臺興盛的時代，假訊息可能潛藏在跌打損傷的賣藥廣告中，江湖庸術以行醫之名行詐騙之實，傷荷包又傷身；而後電話詐騙時有所聞，辛苦積攢的儲蓄可能在一夕之間化為烏有；但到了社群時代，人言可畏，抹黑與謠言能掀起翻天覆地的輿論浪潮，造成聲譽損害；如今，社群已然喪失訊息傳遞平臺的功能，成了假訊息孕育、擴散的搖籃，不僅混淆視聽，更成了戰爭時期最動搖人心的利器。因此，各政府相關單位與社群平臺主事者，應正視假訊息的危害並積極處置；而由上述發展，我們也不難看出越來越多掌握人工智慧技術的新創參與抵抗假訊息之列，甚至密切與政府國防單位合作，共同抵禦。相信未來認知作戰將成為戰爭之下必不可少的一環，光靠民眾增強媒體識讀是不夠的，如何應用數據分析技術輔以人工智慧幫襯，恐怕是當今所有防禦單位需要提前思索、準備的方向。