AI深偽內容攪動大選年

2025年是選舉歷史進程的重要年份，全球50多個國家和地區(qū)展開選舉，世界一半人口參與其中。相較2024年，AI深偽內容愈發(fā)引人注目且難以辨認，給大選年蒙上陰影。

今年一月，一名民主黨工作人員深度偽造了美國總統(tǒng)拜登的電話呼叫。這則“假拜登來電”敦促新罕布什爾州初選選民不要去投票站，其內容聲稱把選票留在11月份再投很重要，若在1月23日（周二）投票，只會讓共和黨人得逞，讓特朗普再次當選為共和黨候選人。

在印度，2025年有超過5億選民將會參與投票，這使得AI深偽政治內容成了一門有利可圖的大生意。AI內容制作公司在印度政治人士中頗受追捧，有公司向媒體透露，預計今年印度政黨在AI生成的競選材料上的支出將超過5000萬美元。穆奧尼姆公司的創(chuàng)始人森希爾奈亞甘從一月開始為政治家創(chuàng)造AI內容，他與泰米爾納德邦執(zhí)政黨合作，制作了一個AI視頻，視頻中該黨已故的標志性領袖M·卡魯納尼迪被“數(shù)字復活”并為州政府背書。AI內容機構Avantari Technologies幾乎每天都收到制作政治人物深偽視頻的請求，出于道德層面的考慮他們拒絕了這些請求。但這個選舉季，仍有一些政治深偽視頻在印度互聯(lián)網開啟了病毒式傳播，比如著名寶萊塢明星阿米爾·汗批評莫迪的視頻。而深偽色情內容也被更多地用在女性政客身上，有專家稱深偽內容的興起，甚至可能會改變競選公職人員的性別比例。2024年，孟加拉反對黨政客魯米恩·法爾哈納就經受了這種人格誹謗，社交媒體上出現(xiàn)她穿比基尼的AI深偽照片。在孟加拉國這個穆斯林占多數(shù)的保守國家，這張照片在社交媒體上引起了軒然大波，許多選民認為這張照片是真實的?！盁o論出現(xiàn)什么新事物，它總是首先針對女性。他們在每一起案件中都是受害者，”法爾哈納說，“人工智能都不例外。”

AI大廠拿起“雷神之錘”

在全球范圍內，AI深偽內容不斷增長。相關從業(yè)人員表示：“唯一阻止我們制造不道德的深度偽造品的，是我們的道德規(guī)范，但要阻止這種情況非常困難?！边@是因為包括美國在內的許多國家，并沒有在國家層面針對這些內容采取監(jiān)管行動。

在缺乏監(jiān)管的情況下，Adobe、微軟等20家科技公司自發(fā)達成“內容真實性倡議”(Content Authenticity Initiative)聯(lián)盟，以控制深偽內容的擴散。2025年周四，TikTok表示將加入這個聯(lián)盟，并計劃開始對AI生成圖像視頻內容進行標記。該聯(lián)盟將在AI生成產品中納入內容憑證?！拔覀冞€制定了禁止未標記的真實人工智能內容的政策。如果真實人工智能（生成的內容）出現(xiàn)在平臺上，那么我們將因違反社區(qū)準則而將其刪除?！盩ikTok運營、信任和安全主管Adam Presser表示。Meta本月早些時候表示，它將開始檢測谷歌、OpenAI、微軟、Adobe和Midjourney插入的隱形標志物，為AI生成的內容打上“AI制作水印”。針對不易識別的AI深偽內容，Meta還表示，它正在開發(fā)深度偽造檢測分類器。在周二，OpenAI也宣布加入這一聯(lián)盟，并將元信息嵌入其圖像模型Dall-E 3生成的所有圖像。OpenAI還表示，在視頻生成模型Sora發(fā)布后，會采取相同的措施打上AI標識。蕭子豪告訴虎嗅，OpenAI的AI標識技術，比較成熟的做法是在AI生成圖像的頭文件里添加相關隱藏字符段。這種做法類似于在AI圖像內部打上"看不見的水印"，在傳播前就打好了標簽，用戶肉眼不可見。好處是不影響觀感，圖片在上傳到TikTok、Facebook等社交平臺后可以很容易識別出來并自動標識。之前較為傳統(tǒng)的在圖片右下角打上“AI生成標識”外部水印，雖然肉眼可見較為明顯，但是如果通過截圖完全可以去掉外部水印，進行二次傳播。而要抹除OpenAI這種內部水印，則需要更為復雜的技術手段。這種AIGC工具的標識方法成本并不高，但由于國外寬松的監(jiān)管條件，因此除上文提及的大廠外，其他AIGC生成工具平臺，并沒有大規(guī)模針對AI內容打上“AI水印”。

技術宅拯救世界

那么TikTok等社交媒體該如何檢測這些沒有提前打上“AI水印”的虛假視頻和圖像呢？這就涉及到更為復雜的深度偽造檢測分類。蕭子豪表示，針對這類無標識AI內容，目前有兩種主流鑒別路線。

第一條，通過深度學習算法識別內容中違背常識的部分。例如，AI深偽生成的人物可能有著與常人不同眨眼頻率等生物特征，此外還可以依據光照不一致性、心率等特征判斷。英特爾實驗室的Demir解釋道：“當你的心臟泵血時，血液流向靜脈，靜脈的顏色會因氧含量而改變。這個顏色變化對我們的眼睛是不可見的；我不能僅憑觀察視頻來看出你的心率。但這種顏色變化在計算上是可見的，從而可以檢測出一個人是真實的還是合成的?！边@種方法需要給模型輸入真實和AI生成的內容數(shù)據集，并在此基礎上加入與常識有關的規(guī)則算法約束。而這種違背常識的視頻，效果并不真實，實際上本身就很容易被人肉眼識別出來。

而對于效果較為逼真、人眼難以識別的AI內容，則需要引入第二條鑒別路線——識別對抗模型和擴散模型特有的信號特征。目前，AI圖片生成模型應用較多的是對抗模型和擴散模型，而研究發(fā)現(xiàn)，它可能會在頻譜上保留周期性網格狀特征。這部分是由于這種模型用到的卷積神經網絡算法，會重復對整個畫面進行信號處理，因此會保留周期性特征。目前的趨勢是：隨著AI深偽內容技術的不斷提高，深偽鑒別技術越發(fā)依賴第二種路線，這種路線對團隊的人工智能理論研究和實踐能力要求更高。而在深偽鑒別的應用落地層面，國內要比國外起步早，技術也并不比國外差。這是因為：AI深偽技術主要應用于人臉，而國內的人臉識別應用較多，間接催生了深偽鑒別需求。因此國內深偽鑒別技術業(yè)務開展較早，積累也更好。而國外在OpenAI引領的AIGC浪潮開始后，才開始大規(guī)模關注深偽鑒別技術。蕭子豪告訴虎嗅：深偽鑒別技術需要突破的瓶頸在于算法理論和數(shù)據收集。目前，AIGC技術的飛速發(fā)展，使得Sora等新的AI生成內容工具和技術持續(xù)涌現(xiàn)，在AI安全的攻防層面也有了獨特的張力，要求在防御層面要及時追趕最新的攻擊。因此要及時收集最新深偽技術數(shù)據，分析偽造方法的演化，提升偽造分析的能力，來不斷迭代更新產品。

AI安全公司瑞萊智慧聯(lián)合創(chuàng)始人蕭子豪告訴虎嗅，AI生成圖像視頻內容鑒別技術的主流方法有：檢測生物信號、周期性網格信號、違背常識特征等，目前技術在一些場景已經可以達到95%到99%的檢出率。有AI從業(yè)人員觀察到最近的趨勢是，包括TikTok、OpenAI、Meta等AI大小廠陸續(xù)上線AI標識相關功能。

文章來源：虎嗅APP

風口星公眾號

掃碼關注領【TK運營地圖】

風口星合作，請掃碼聯(lián)系！