人類(lèi)辨別AI生圖成功率僅62%丨南財(cái)合規(guī)周報(bào)（第201期）

　　每周，“合規(guī)周報(bào)”會(huì)盤(pán)點(diǎn)最近一周?chē)?guó)外人工智能、科技競(jìng)爭(zhēng)、個(gè)人信息保護(hù)上值得關(guān)注的動(dòng)態(tài)。

　　本周，我們重點(diǎn)關(guān)注國(guó)家網(wǎng)信辦約談英偉達(dá)、字節(jié)回應(yīng)Trae涉嫌“偷跑”用戶(hù)數(shù)據(jù)。

　　海外方面，谷歌簽署歐盟《通用AI行為準(zhǔn)則》、微軟研究人類(lèi)辨別AI生成圖像成功率僅62%，馬斯克宣布推出文本轉(zhuǎn)視頻AI工具GrokImagine。

　　監(jiān)管治理

　　國(guó)家網(wǎng)信辦約談英偉達(dá)

　　近日，英偉達(dá)算力芯片被曝出存在嚴(yán)重安全問(wèn)題。此前，美議員呼吁要求美出口的先進(jìn)芯片必須配備“追蹤定位”功能。美人工智能領(lǐng)域?qū)＜彝嘎?，英偉達(dá)算力芯片“追蹤定位”“遠(yuǎn)程關(guān)閉”技術(shù)已成熟。為維護(hù)中國(guó)用戶(hù)網(wǎng)絡(luò)安全、數(shù)據(jù)安全，依據(jù)《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》有關(guān)規(guī)定，國(guó)家互聯(lián)網(wǎng)信息辦公室于2025年7月31日約談了英偉達(dá)公司，要求英偉達(dá)公司就對(duì)華銷(xiāo)售的H20算力芯片漏洞后門(mén)安全風(fēng)險(xiǎn)問(wèn)題進(jìn)行說(shuō)明并提交相關(guān)證明材料。

　　字節(jié)回應(yīng)Trae涉嫌“偷跑”用戶(hù)數(shù)據(jù)

　　近日，一位開(kāi)發(fā)者在GitHub上公開(kāi)警告稱(chēng)，字節(jié)跳動(dòng)旗下AI編程環(huán)境TraeIDE存在在用戶(hù)未明確知情的情況下，將數(shù)據(jù)上傳至字節(jié)服務(wù)器的行為，即便用戶(hù)已在設(shè)置中手動(dòng)關(guān)閉遙測(cè)（Telemetry）功能。測(cè)試表明，Trae的內(nèi)存使用量是VSCode的五倍以上，進(jìn)程數(shù)量也處于異常水平，引發(fā)了對(duì)其性能與資源管理的質(zhì)疑。

　　對(duì)此，字節(jié)跳動(dòng)回應(yīng)稱(chēng)：為持續(xù)優(yōu)化產(chǎn)品體驗(yàn)，Trae與業(yè)內(nèi)通行做法類(lèi)似，采集部分非敏感的統(tǒng)計(jì)數(shù)據(jù)和性能指標(biāo)，例如頁(yè)面點(diǎn)擊、功能使用頻率等，不涉及用戶(hù)個(gè)人身份或隱私信息。字節(jié)跳動(dòng)強(qiáng)調(diào)，公司歡迎并重視用戶(hù)的批評(píng)與反饋，相關(guān)建議將作為產(chǎn)品優(yōu)化的重要參考。據(jù)悉，Trae被定位為一款免費(fèi)替代Cursor的AI編程助手，支持接入GPT-4o與Claude3.5Sonnet等先進(jìn)大模型，可提升開(kāi)發(fā)者工作效率。

　　谷歌簽署歐盟《通用AI行為準(zhǔn)則》

　　2025年07月30日，谷歌正式簽署了歐盟通用人工智能模型行為準(zhǔn)則。此前，OpenAI、Anthropic和Mistral已經(jīng)簽署了該準(zhǔn)則，目前大多數(shù)所謂的“前沿”人工智能公司都已對(duì)該準(zhǔn)則表示支持。主要的B2B提供商微軟和AlephAlpha也計(jì)劃簽署該準(zhǔn)則。到目前為止，Meta是唯一拒絕簽署的主要人工智能公司，而埃隆·馬斯克的xAI則一如既往地保持神秘。

　　AI動(dòng)態(tài)

　　微軟研究：人類(lèi)辨別AI生成圖像成功率僅62%

　　7月28日微軟人工智能公益項(xiàng)目發(fā)布的一篇論文概述了一項(xiàng)實(shí)驗(yàn)，該實(shí)驗(yàn)有超過(guò)1.25萬(wàn)名全球參與者，進(jìn)行了28.7萬(wàn)次圖像評(píng)估，結(jié)果顯示人類(lèi)辨別AI生成圖像與真實(shí)圖像的整體成功率僅為62%，這表明人類(lèi)在識(shí)破這些虛假圖像方面的能力僅略高于隨機(jī)猜測(cè)，面臨著較大的挑戰(zhàn)。

　　研究發(fā)現(xiàn)，在各類(lèi)圖像中，參與者最容易識(shí)別出虛假的人像圖像，但面對(duì)自然景觀(guān)和城市街景等非人物圖像，辨別成功率大幅下降至59%-61%。這凸顯了人類(lèi)在區(qū)分AI圖像時(shí)的困難，尤其是那些沒(méi)有明顯人工痕跡或風(fēng)格線(xiàn)索的圖像。

　　庫(kù)克：蘋(píng)果“必須”在人工智能領(lǐng)域取得勝利

　　8月3日據(jù)媒體報(bào)道，蘋(píng)果公司首席執(zhí)行官蒂姆·庫(kù)克舉行了一場(chǎng)長(zhǎng)達(dá)一小時(shí)的全體員工會(huì)議，強(qiáng)調(diào)蘋(píng)果在人工智能領(lǐng)域必須取得勝利。庫(kù)克在會(huì)上明確表示：“蘋(píng)果必須做到這一點(diǎn)，蘋(píng)果將會(huì)做到這一點(diǎn)，這是我們要抓住的機(jī)會(huì)?！?/p>

　　此次會(huì)議是在蘋(píng)果公司發(fā)布財(cái)報(bào)后的電話(huà)會(huì)議之后舉行的。在財(cái)報(bào)電話(huà)會(huì)議上，庫(kù)克曾向投資者和分析師表示，蘋(píng)果將“顯著”增加對(duì)人工智能的投資。他在員工會(huì)議上也傳達(dá)了類(lèi)似的信息，強(qiáng)調(diào)蘋(píng)果在A(yíng)I領(lǐng)域的決心。

　　馬斯克宣布推出文本轉(zhuǎn)視頻AI工具GrokImagine，稱(chēng)其為“AI版的Vine”

　　8月3日埃隆·馬斯克在X社交平臺(tái)上宣布推出人工智能文本轉(zhuǎn)視頻生成器GrokImagine，他將其形容為“AI版的Vine”。

　　GrokImagine是馬斯克旗下聊天機(jī)器人Grok的最新功能，目前正處于測(cè)試階段。用戶(hù)可以通過(guò)輸入文字描述自己想要看到的圖像或場(chǎng)景，GrokImagine就能將其轉(zhuǎn)化為帶有音效的視頻片段。

　　Vine是一款曾經(jīng)風(fēng)靡一時(shí)的短視頻服務(wù)，其在2012年推出后不久便被當(dāng)時(shí)的推特公司收購(gòu)，直至2017年被關(guān)停。馬斯克在X平臺(tái)的帖子中還透露了一個(gè)令人振奮的消息：“我們最近發(fā)現(xiàn)了Vine視頻檔案（本以為它已經(jīng)被刪除了），目前正在努力恢復(fù)用戶(hù)訪(fǎng)問(wèn)權(quán)限，這樣大家就可以重新發(fā)布那些視頻了?！辈贿^(guò)，目前尚不清楚恢復(fù)Vine檔案是否意味著用戶(hù)可以重新登錄舊賬戶(hù)，或者這只是一種臨時(shí)措施，僅允許用戶(hù)訪(fǎng)問(wèn)舊文件。

　　微軟宣布為Edge瀏覽器引入Copilot模式，實(shí)現(xiàn)自動(dòng)化搜索、預(yù)測(cè)、整合

　　7月28日，微軟發(fā)文宣布為Edge瀏覽器中推出全新Copilot模式（實(shí)驗(yàn)?zāi)Ｊ剑壳皟H限Windows/Mac版），納德拉稱(chēng)“這是我們?yōu)锳I時(shí)代重塑瀏覽器的第一步”。

　　類(lèi)似Perplexity的彗星瀏覽器，微軟在Edge瀏覽器中集成了一個(gè)AI智能體。開(kāi)啟該模式后，Edge將激活新的AI功能：它不再被動(dòng)等待用戶(hù)點(diǎn)擊某個(gè)按鈕，而是預(yù)測(cè)其后續(xù)可能的操作；無(wú)需用戶(hù)手動(dòng)篩選海量標(biāo)簽頁(yè)，而是作為協(xié)作助手主動(dòng)幫用戶(hù)理清信息流，從而全面了解用戶(hù)在線(xiàn)搜索的內(nèi)容。

（文章來(lái)源：21世紀(jì)經(jīng)濟(jì)報(bào)道）

(原標(biāo)題：人類(lèi)辨別AI生圖成功率僅62%丨南財(cái)合規(guī)周報(bào)（第201期）)

(責(zé)任編輯：137)