您當(dāng)前的位置 ：教育 >
如何識(shí)別人工智能生成的文本？他們讓AI去找到同類(lèi)
2025-03-26 15:41:28   來(lái)源：澎湃新聞  分享 分享到搜狐微博 分享到網(wǎng)易微博

“考試和分?jǐn)?shù)不應(yīng)該是學(xué)生生活的全部。除了分?jǐn)?shù)，我還可以去關(guān)心窗前第一排柳芽的萌動(dòng);去欣賞天上金黃的滿(mǎn)月，讓后羿嫦娥、吳剛玉兔的傳說(shuō)在心中流過(guò);去盛裝的西湖邊騎行，淋一點(diǎn)小雨，吹無(wú)數(shù)的風(fēng)……可是，家長(zhǎng)的教誨又讓人無(wú)法反駁：“你知道嗎，中考差一分，就是一個(gè)操場(chǎng)的人!”

這，就是我的煩惱。 ”

以上這段文字是AI生成的，還是人寫(xiě)的?

我問(wèn)了7個(gè)人，有5個(gè)認(rèn)為由AI生成，主要理由是“辭藻堆砌”。

AI通用模型的文本生成能力持續(xù)進(jìn)階，已經(jīng)到了人無(wú)法準(zhǔn)確辨別的程度，因此，其不當(dāng)使用可能帶來(lái)的虛假新聞、學(xué)術(shù)不端行為、惡意產(chǎn)品評(píng)價(jià)等問(wèn)題引起社會(huì)高度關(guān)注。

據(jù)公安部網(wǎng)絡(luò)安全局官方公眾號(hào)，因使用AI捏造“頂流明星在澳門(mén)輸了10億”的謠言，一名男子被處以行政拘留8日。據(jù)介紹，3月10日，網(wǎng)民徐某強(qiáng)為博流量、謀取非法利益，使用軟件“某書(shū)”中AI智慧生成功能，輸入熱點(diǎn)詞，制作“頂流明星被曝境外豪賭輸光十億身價(jià)引發(fā)輿論海嘯”的謠言信息并在網(wǎng)上發(fā)布，造成謠言迅速擴(kuò)散，引發(fā)大量網(wǎng)民議論，誘發(fā)相關(guān)謠言、話(huà)題等頻繁登上熱搜熱榜，嚴(yán)重?cái)_亂公共秩序。

2023年2月16日，“杭州市政府3月1號(hào)取消機(jī)動(dòng)車(chē)依尾號(hào)限行”的“新聞”瘋傳。據(jù)浙江之聲報(bào)道，當(dāng)天杭州某小區(qū)業(yè)主群討論ChatGPT，一位業(yè)主開(kāi)玩笑說(shuō)嘗試用它寫(xiě)“杭州取消限行”的“新聞”，在群里直播了用ChatGPT寫(xiě)作的過(guò)程，并把文章發(fā)在群里，其他業(yè)主不明就里，截圖轉(zhuǎn)發(fā)。

人工智能、人類(lèi)智能——面對(duì)一個(gè)文本，該如何鑒別其“真?zhèn)?rdquo;?

3月24日，西湖大學(xué)自然語(yǔ)言處理實(shí)驗(yàn)室的博士生鮑光勝團(tuán)隊(duì)研發(fā)的AI應(yīng)用程序Fast-DetectGPT，將開(kāi)頭那段“我的煩惱”的文字輸入，程序很快給出判斷結(jié)果：由AI生成的概率為19%。

它說(shuō)對(duì)了，這段文字摘自杭州一名七年級(jí)學(xué)生的作文。

文本究竟是人腦構(gòu)思的，還是電腦生成的?或許人難以判斷，但它能夠被判斷——鑒別者可以是AI自己。這是研究者的思路。

Fast-DetectGPT在開(kāi)源模型GPT-Neo 2.7B上運(yùn)行，無(wú)需訓(xùn)練即可識(shí)別各種AI大語(yǔ)言通用模型生成的文本內(nèi)容，對(duì)GPT3.5、GPT4生成的文本，識(shí)別率分別達(dá)到96%、90%。與斯坦福大學(xué)2023年提出的DetectGPT相比，檢測(cè)速度提高340倍，識(shí)別錯(cuò)誤率降低75%。去年，以鮑光勝為第一作者、西湖大學(xué)工學(xué)院副院長(zhǎng)張?jiān)澜淌跒橥ㄓ嵶髡叩南嚓P(guān)論文在深度學(xué)習(xí)領(lǐng)域頂級(jí)會(huì)議——2024國(guó)際表征學(xué)習(xí)大會(huì)上發(fā)表。

張?jiān)?003年畢業(yè)于清華大學(xué)計(jì)算機(jī)科學(xué)專(zhuān)業(yè)，此后在牛津大學(xué)獲得該專(zhuān)業(yè)碩士、博士學(xué)位，在劍橋大學(xué)從事博士后研究，現(xiàn)為西湖大學(xué)終身教授，主要研究自然語(yǔ)言處理、文本挖掘、機(jī)器學(xué)習(xí)和人工智能。鮑光勝是他的博士生，曾在微軟(中國(guó))、阿里巴巴工作多年，三年前進(jìn)入西湖大學(xué)。今年，他們關(guān)于Fast-DetectGPT的私有大模型擴(kuò)展Glimpse的論文已被4月將在新加坡舉行的2025國(guó)際表征學(xué)習(xí)大會(huì)收錄。

澎湃新聞

：對(duì)于A(yíng)I生成的文本，目前主流的識(shí)別方法有哪些?

張?jiān)?/strong>

：主要有監(jiān)督分類(lèi)器法、零樣本分類(lèi)器法、水印法。使用監(jiān)督分類(lèi)器法要收集大量已知數(shù)據(jù)，包括AI生成文本和人類(lèi)創(chuàng)作文本，做分類(lèi)學(xué)習(xí)。對(duì)訓(xùn)練時(shí)見(jiàn)過(guò)的大語(yǔ)言模型生成的文本，它的識(shí)別準(zhǔn)確率較高;但遇到未見(jiàn)過(guò)的模型生成的文本，識(shí)別準(zhǔn)確率下降。

Fast-DetectGPT、DetectGPT屬于零樣本分類(lèi)器法，無(wú)需收集數(shù)據(jù)進(jìn)行訓(xùn)練，主要通過(guò)AI文本的特征來(lái)“找同類(lèi)”。

水印法是在生成AI文本時(shí)打上“水印”。國(guó)家互聯(lián)網(wǎng)信息辦公室、工信部、公安部、國(guó)家廣電總局已發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，將于9月起實(shí)施，要求相關(guān)服務(wù)提供者對(duì)生成合成內(nèi)容添加顯式標(biāo)識(shí)，或在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)，就屬于此類(lèi)。這種方法的準(zhǔn)確率高，但存在標(biāo)記被人為弱化甚至移除的風(fēng)險(xiǎn)。

澎湃新聞

：Fast-DetectGPT的工作原理是什么?

鮑光勝

：簡(jiǎn)單地說(shuō)， AI更懂AI，F(xiàn)ast-DetectGPT“認(rèn)出”了同類(lèi)。

所謂“生成”文本，就是機(jī)器通過(guò)上文來(lái)選擇下文，選擇依據(jù)是詞匯、句式等在其學(xué)習(xí)的數(shù)據(jù)集中的使用概率，概率越大，越可能被選中——可以想象一下搜索引擎中跳動(dòng)的下拉提示框。

Fast-DetectGPT的工作基于一個(gè)前提：人類(lèi)和AI通用模型在文本形成中有不同的選擇。人類(lèi)寫(xiě)文章時(shí)的選擇比較多樣，個(gè)體間的差異大;而不同AI通用模型間的差異不明顯——因?yàn)樵谡Z(yǔ)料庫(kù)上預(yù)訓(xùn)練的通用模型反映的是人類(lèi)作為集體的寫(xiě)作行為，生成文本時(shí)也傾向于選擇有更高模型概率的詞匯、句式。因此，兩種文本在詞匯使用、句子結(jié)構(gòu)、語(yǔ)法復(fù)雜度、語(yǔ)義連貫性等方面有不同，我們提取覆蓋這些區(qū)別特征的統(tǒng)計(jì)量“條件概率曲率”，分析它們?cè)趦深?lèi)文本的分布，當(dāng)被測(cè)文本的統(tǒng)計(jì)特征值主要落在A(yíng)I生成文本的分布中，則大概率為AI生成的。

不妨這樣理解：作為AI，F(xiàn)ast-DetectGPT面對(duì)被測(cè)文本，先在不改變?cè)獾那闆r下改寫(xiě)，再將自己的文本與被測(cè)文本對(duì)比，如果被測(cè)文本是AI寫(xiě)的，相似性會(huì)比較顯著。

張?jiān)?/strong>

：人類(lèi)的思考是因果性的——它來(lái)自于行為及其反饋、后果、互動(dòng)等，而通用模型的思考偏向統(tǒng)計(jì)性。寫(xiě)文章，AI的寫(xiě)法是學(xué)習(xí)現(xiàn)有數(shù)據(jù)，根據(jù)詞與詞之間“共現(xiàn)性”的概率高低等來(lái)選擇下文，缺少“泛化性”，也就是將在訓(xùn)練數(shù)據(jù)集中所習(xí)，通過(guò)背后的因果邏輯“舉一隅反三隅”，應(yīng)用到別處，從而獲得分布以外的泛化性。這與創(chuàng)造性的人類(lèi)寫(xiě)作有很大區(qū)別。

澎湃新聞

：那么，“阿爾法圍棋”(AlphaGo)為什么能屢屢下出人類(lèi)想不到的招數(shù)?而且2016年韓國(guó)李世石九段在番棋戰(zhàn)中僅有的一局中盤(pán)勝是人類(lèi)的“最后一勝”，那以后再也沒(méi)有贏(yíng)過(guò)AlphaGo?

張?jiān)?/strong>

：圍棋的變化近于無(wú)窮，但結(jié)果只有兩種，或勝或負(fù)(和局極其偶然)，弈棋規(guī)則也很明確。在這種情況下，AI程序的“算力”得以充分發(fā)揮，AlphaGo在訓(xùn)練中學(xué)習(xí)了幾萬(wàn)份專(zhuān)業(yè)棋手的對(duì)弈棋譜， 還進(jìn)行了三千萬(wàn)盤(pán)自我對(duì)決。而保持高強(qiáng)度比賽狀態(tài)的世界頂尖棋手，平均每年的職業(yè)對(duì)局不超過(guò)一百盤(pán)，即使加上訓(xùn)練對(duì)局、打譜，其數(shù)量也完全不在同一量級(jí)。

AlphaGo沒(méi)有心理波動(dòng)，這也是它在人機(jī)對(duì)弈中的優(yōu)勢(shì)之一，但寫(xiě)作中最可貴的可能就是情感、是“心理波動(dòng)”。另一方面，“寫(xiě)得好”也沒(méi)有邊界，不存在止境，無(wú)法枚舉。

澎湃新聞

：Fast-DetectGPT檢測(cè)DeepSeek-v3生成文本的準(zhǔn)確率達(dá)到89%，對(duì)DeepSeek-R1的檢測(cè)準(zhǔn)確率則較低。我們看到，類(lèi)似R1的推理模型正成為大模型發(fā)展的新方向，F(xiàn)ast-DetectGPT會(huì)有什么優(yōu)化和改進(jìn)?

張?jiān)?/strong>

：R1通過(guò)較長(zhǎng)的推理鏈進(jìn)行思考和規(guī)劃，生成的文本內(nèi)容與此前通用模型的輸出分布有差異。我們猜測(cè)，這可能是R1在強(qiáng)化學(xué)習(xí)，探索新的推理路徑時(shí)產(chǎn)生了分布變化，使現(xiàn)有檢測(cè)器的工作難度增加。

目前的Fast-DetectGPT演示版使用的是開(kāi)源小語(yǔ)言模型GPT-Neo 2.7B，說(shuō)它“小”，是因?yàn)槟Ｐ偷膮?shù)只有27億個(gè)。如果使用更強(qiáng)的模型，比如671B的滿(mǎn)血版DeepSeek-R1，理論上識(shí)別準(zhǔn)確率就會(huì)更高。

技術(shù)總是雙刃劍，模仿、鑒別會(huì)是持久的“攻防戰(zhàn)”。作為Fast-DetectGPT的私有大模型擴(kuò)展，Glimpse可以檢測(cè)26種語(yǔ)言的文本，并有更高的識(shí)別準(zhǔn)確率。總的說(shuō)，AI模型生成的文本會(huì)越來(lái)越逼真，但人類(lèi)使用AI程序?qū)ξ谋具M(jìn)行識(shí)別的能力也將越來(lái)越強(qiáng)大。

關(guān)鍵詞：


[責(zé)任編輯：ruirui]





關(guān)于我們| 客服中心| 廣告服務(wù)| 建站服務(wù)| 聯(lián)系我們
 

中國(guó)焦點(diǎn)信息網(wǎng) 版權(quán)所有 滬ICP備2022005074號(hào)-20，未經(jīng)授權(quán)，請(qǐng)勿轉(zhuǎn)載或建立鏡像，違者依法必究。