欧美日韩一级不卡熟女,里番福利视频网站

看完3·15不敢用AI？為了預防AI投毒，AI大廠備好了三板斧

2026-03-17 10:36

道高一尺，魔高一丈。

又是一年3.15，當天的央視315晚會上，AI大模型被投毒的現(xiàn)象擺到了臺面上。具體而言，就是GEO（生成式引擎優(yōu)化）技術被濫用，部分商業(yè)營銷公司按照客戶需求，編造大量虛假內(nèi)容，發(fā)布到各類平臺上，系統(tǒng)性地去影響AI。

在央視記者的探訪視頻中，業(yè)內(nèi)人士用「力擎GEO優(yōu)化系統(tǒng)」虛構了一款名為「Apollo-9」的智能手環(huán)。圍繞這款手環(huán)，該公司編造了大量營銷文章發(fā)布到自媒體平臺上，很快，部分大模型就誤信了這些內(nèi)容，甚至正兒八經(jīng)地推薦起了這款「手環(huán)」。更夸張的是，該公司后續(xù)發(fā)布10余篇評測文章后，就出現(xiàn)了部分大模型優(yōu)先推薦這款產(chǎn)品的情況。

（圖源：央視）

總的來說，AI投毒本質(zhì)上就是用虛假信息來欺騙AI，再讓AI把錯誤信息展露在用戶面前，達到誤導用戶的目的。AI投毒，背后的動力說白了還是虛假營銷。比如，一家企業(yè)要推廣自家的商品，如果要走「捷徑」，就可能會購買這類GEO服務。

現(xiàn)狀已經(jīng)擺在面前了，我們最關心的問題則是：如何破解？面對海量的編造出來的虛假信息，大模型們要如何過濾？面對AI生成的錯誤答案，普通人又要如何辨別？

AI大廠的反擊：為大模型建立免疫系統(tǒng)

其實AI投毒的問題，從大模型誕生的那一刻起就出現(xiàn)了。很多AI大廠，很早就意識到了這個問題，并且也開啟了相應的反制措施。

小雷在查詢了相關資料后，總結了AI大廠構建免疫系統(tǒng)的手段，具體包括給數(shù)據(jù)打「數(shù)字水印」、建立語料溯源機制、增強信息源交叉驗證等。

首先，來看下數(shù)據(jù)「數(shù)字水印」。AI投毒行為往往有個特點，就是先用AI生成批量內(nèi)容，再用這些內(nèi)容去投毒�；耶a(chǎn)商家這么做很好理解，畢竟人工一篇一篇去寫文章的話，人力成本太高了，而且效率太低。

而用AI生成，成本很低，頂多消耗一點付費的Tokens。更何況，這些虛假內(nèi)容，本質(zhì)上不是給真人看的，而是拿去欺騙AI的，所以對內(nèi)容質(zhì)量沒要求。

而給數(shù)據(jù)打「數(shù)字水印」，就是在AI生成內(nèi)容這一環(huán)節(jié)提前打下的補丁。說得更具體點，就是在大模型生成文字、圖片等內(nèi)容時，刻意在底層算法上留下痕跡，比如AI在預測下一個Token的概率分布時，故意偏向一組特定詞語組合。這樣一來，讀者閱讀這段AI生成文字時，不會覺得有什么問題，但回流到AI這里時，它就能瞬間識別出它不是真人撰寫的文字。

有了這項技術，大模型的爬蟲在互聯(lián)網(wǎng)上獲取信息時，就能識別出哪些是「有毒」的，并且主動過濾。

關于數(shù)字水印，目前比較有代表性的是谷歌的SynthID技術。它不僅能給文字打水印，還能給圖片、音頻、視頻打水印。文字方面，谷歌AI生成的文本在輸出前會加入一組偽隨機函數(shù)，調(diào)整特定詞語的分布概率。

針對圖片和視頻，大模型則會把水印以像素點陣的方式打上去，人肉眼看不出來，但AI能識別出來。針對音頻，AI可以加入特定的聲波頻率，人耳聽不見，完全是作為標識留下的。

然后，我們再來聊聊語料溯源機制。它的核心邏輯，就是給內(nèi)容在源頭上建立檔案機制，寫入不能篡改的加密元數(shù)據(jù)，比如內(nèi)容是誰生成的、具體時間是什么時候、最早在什么設備上出現(xiàn)。

2021年，Adobe、微軟、ARM、BBC、英特爾等企業(yè)倡導成立了C2PA聯(lián)盟（Coalition for Content Provenance and Authenticity，內(nèi)容來源和真實性聯(lián)盟），旨在抵制虛假信息，為可靠的互聯(lián)網(wǎng)數(shù)字內(nèi)容頒發(fā)「證件」。

（圖源：C2PA）

通過它和類似的機制，AI就能在吸收原始資料時主動篩選可靠性更高、更權威的內(nèi)容，降低野生論壇等可靠性低的內(nèi)容占比。

最后，再說增強信息交叉驗證這部分。理論上，AI在生成內(nèi)容時，會先去搜索資料，為了保證真實性，會對資料進行事實核查。當然，這一步毫無疑問會增加算力和時間成本，如果AI偷懶就可能會導致容易被騙。

比如315晚會上那個虛假手環(huán)，如果大模型有完善的信息驗證機制，就會發(fā)現(xiàn)，雖然相關文章多，但發(fā)布時間密集、內(nèi)容重復度高等，可信度低。

總的來說，以上提到的手段，都可以在很大程度上遏制AI投毒的現(xiàn)象。當然，讓這些手段落地，一方面需要AI廠商有較強的技術能力，另一方面需要增加投入成本，容易被廠商在商業(yè)層面上的考量所左右。

大模型之爭，已經(jīng)來到新階段

早先幾年，大模型之間的競爭仍然是在拼參數(shù)，頭部大模型的參數(shù)量早已從億、十億級卷到百億、千億甚至萬億級�；ヂ�(lián)網(wǎng)大廠之間的AI軍備競賽還在持續(xù)，不斷將海量的資金投入到AI基礎設施建設上。與此同時，AI Agent、具身智能等相關技術和應用在快速發(fā)展，引導大模型快速場景化落地，尋找到更多商業(yè)價值。

不過，大模型充當著大腦核心，決定了智能體、具身智能的上限。因此，未來的AI之爭，大模型仍然是重點。而從AI投毒的現(xiàn)象來看，GEO相關的行為已經(jīng)形成了一條完整的灰色產(chǎn)業(yè)鏈，AI已經(jīng)變成了不法營銷的重要入口。

（圖源：央視）

AI被盯上，也說明大模型在國內(nèi)的普及水平已經(jīng)相當高了。就小雷之前的觀察來看，國產(chǎn)大模型產(chǎn)品在普通用戶中已經(jīng)很流行了。和刻板印象不同的是，如今即便是不熟悉科技互聯(lián)網(wǎng)、文化程度偏低的普通人，也在大規(guī)模使用AI。

原因很簡單，國產(chǎn)大模型的上手門檻很低，用自然語言對話的模式比傳統(tǒng)搜索引擎的關鍵字搜索更易用。而且，國產(chǎn)AI應用場景化迅速，不僅能給用戶答疑解惑，還能與其他互聯(lián)網(wǎng)服務打通，具備點奶茶、訂電影票之類的實用功能。

AI GEO投毒能形成產(chǎn)業(yè)鏈，本質(zhì)上還是因為AI用戶規(guī)模足夠大，大到能附著大量的商業(yè)利益。在這個大背景下，大模型之間的競爭重點，有變化了。

大模型的參數(shù)量還在增加，但邊際遞減效應明顯。在很多應用場景里，并不是模型越大越好，而是合適的更好。

同時，模型技術的進化重點之一，將會是如何對抗AI投毒。相比參數(shù)、跑分，未來大模型的核心競爭力將變成高質(zhì)量純凈數(shù)據(jù)，干凈的語料，將會是AI廠商的寶貴資產(chǎn)。

國內(nèi)頭部AI大廠，包括阿里、字節(jié)、DeepSeek等，都在數(shù)據(jù)純凈度方面下了大功夫。阿里2025年就發(fā)布了「AI安全護欄」，防范數(shù)據(jù)污染問題；字節(jié)2024年就全面加強了模型訓練環(huán)節(jié)的權限隔離與零信任架構，防止代碼和數(shù)據(jù)池污染；2024年，DeepSeek就宣布在訓練階段采用「正則表達式+AI脫敏工具」雙重校驗，強力過濾公開數(shù)據(jù)集中的污染信息和敏感數(shù)據(jù)。

AI投毒和反投毒，將是一場持久戰(zhàn)

看到AI投毒的相關新聞中提到的GEO技術時，小雷瞬間就想到了搜索引擎時代的SEO廣告。PC互聯(lián)網(wǎng)時代，搜索引擎是極為關鍵的入口，是互聯(lián)網(wǎng)營銷的重點。因此，很多品牌、商家為了增加自己在互聯(lián)網(wǎng)上的曝光度，會主動進行SEO優(yōu)化。

搜索引擎品牌也把SEO視作一門生意，搞出了競價排名，當用戶的搜索關鍵詞觸發(fā)相應的商業(yè)項目時，付費品牌排名會靠前。競價排名這種商業(yè)模式引發(fā)了巨大的爭議，以至于后來搜索品牌不得不特意給SEO廣告打上「推廣」標簽，以和正常算法下的搜索結果相區(qū)分。

GEO和SEO一字之差，技術原理和商業(yè)鏈條上高度相似。只能說，技術本身沒有原罪，但很難完全避免被惡意利用。隨著AI技術的持續(xù)發(fā)展和落地，與之伴隨的商業(yè)利益也會滾雪球般越滾越大。

盡管AI大廠們會持續(xù)加強防范治理手段，以遏制AI投毒行為，但巨大的利益面前，灰產(chǎn)也會繼續(xù)不斷升級手段、尋找新的漏洞。

就像前文提到的文字水印技術，深諳AI技術的投毒者就會通過將文字翻譯成外文再翻回中文的手段來破解。這場貓鼠游戲，將會是一場曠日持久的攻防大戰(zhàn)，很難以某種手段一勞永逸地解決。

截至小雷這篇文章完成時，開頭我們提到的「Apollo-9」虛假手環(huán)，已經(jīng)在主流大模型產(chǎn)品上被識別出來。由此可以發(fā)現(xiàn)，AI大廠針對AI投毒已經(jīng)有一套防范和糾錯機制。

微信圖片_20260316183614_22_45.jpg