同路點評
皇家委員會發現極端主義者利用「代碼」、表情符號等規避社群媒體偵測
皇家委員會獲悉,極端主義者正利用代碼化語言和網路迷因在社群媒體上發布反猶太主義內容時規避偵測。
因為這類內容較不易被審查人員發現,極右翼人士也利用迷因來推廣「更易於被大眾接受」的反猶太主義。
來自戰略對話研究所(Institute for Strategic Dialogue)的極端主義研究員漢娜·羅斯(Hannah Rose)作證時表示:「我們發現極端主義者會使用不同的代碼,例如將單字中的某個字母改成數字,以避開內容審查。他們也會使用表情符號和網路迷因,因此包含了大量含蓄隱晦的反猶太主義。」
羅斯女士還告訴委員會,2023年10月7日哈瑪斯發動的襲擊讓「反猶太主義完全失控」,相關影片中反猶太主義內容的數量激增了51倍。
週三早些時候,一家線上防範仇恨的慈善機構將社群媒體平台 X 上的反猶太仇恨言論部分歸咎於萬億富豪馬斯克,並指出該平台刪除的反猶太主義內容遠少於其他社群媒體平台。目前該平台尚未對皇家委員會多次提出的互動請求做出回應。
同路點評:
目前AI 雖然擅長辨識已知模式,但人類在規避審查的「創意」上更快一步。單靠字面篩選已無法有效阻止仇恨言論的傳播,平台迫切需要發展出更深度的語境理解能力、文化敏感度與圖文結合的語義分析技術,才能捕捉隱含在幽默或代碼背後的惡意。
當部分平台高舉「絕對的言論自由」旗幟,卻實質上讓平台淪為仇恨言論與極端主義的溫床時,這便不再只是單純的技術問題,而是企業社會責任的潰敗。當科技巨頭選擇拒絕配合官方調查、漠視皇家委員會的互動請求時,政府與大眾必須思考新型態的問責機制。這包括透過立法手段(如歐盟的《數位服務法》)對不作為的平台課以巨額罰款,或透過公眾輿論、廣告商抵制等施壓手段,迫使這些掌握公共話語權的跨國巨頭在自由與安全之間尋求合法的平衡。
