一條視頻中，批量化兩名“兒童”身著白色短袖，貨地帶在陽(yáng)光下開(kāi)心地玩滑板。視頻生產(chǎn)鏡頭一轉(zhuǎn)，李鬼兩人在動(dòng)作交錯(cuò)時(shí)，游走身體竟然融合在一起，灰色暴露出數(shù)字合成痕跡。批量化

今年“雙11”期間，貨地帶北京市民王歡在某社交平臺(tái)刷到這條童裝推廣視頻，視頻生產(chǎn)深感詫異，李鬼直到看見(jiàn)角落一行“內(nèi)容由AI生成”的游走提示，她才意識(shí)到孩子玩耍的灰色畫(huà)面是技術(shù)合成的。“這畫(huà)面錯(cuò)得有些離譜，批量化讓人怎么相信商品的貨地帶真實(shí)效果？”她疑惑地說(shuō)。

近來(lái)，視頻生產(chǎn)商家利用AI技術(shù)帶貨的現(xiàn)象日益增多，有的出現(xiàn)違法違規(guī)情形：有借助名人效應(yīng)，仿冒專(zhuān)家學(xué)者、奧運(yùn)冠軍、影視明星為產(chǎn)品站臺(tái)；有冒充知名品牌誤導(dǎo)消費(fèi)者。不少消費(fèi)者和粉絲難辨真?zhèn)?，出于?duì)“偶像”或“品牌”的信任下單，卻沒(méi)意識(shí)到背后潛藏的風(fēng)險(xiǎn)。

這些游走在灰色地帶的“AI李鬼”，涉嫌侵害當(dāng)事者的肖像權(quán)以及消費(fèi)者的知情權(quán)與選擇權(quán)，對(duì)當(dāng)下網(wǎng)絡(luò)數(shù)字治理提出新挑戰(zhàn)。

AI帶貨視頻“批量化”生產(chǎn)

“兩人穿透彼此身體，明顯違背真實(shí)世界的物理規(guī)律，在行業(yè)中我們稱(chēng)之為‘穿模’?！辟Y深A(yù)I技術(shù)人員藍(lán)天說(shuō)。

他指出，當(dāng)前主流AI視頻生成模型，其核心邏輯是在海量數(shù)據(jù)訓(xùn)練基礎(chǔ)上，具備較強(qiáng)的語(yǔ)言理解和圖像生成能力，能夠根據(jù)文本描述“畫(huà)”出逼真畫(huà)面。然而，對(duì)于真實(shí)世界中復(fù)雜的物理規(guī)律，如重力、碰撞、物體間的不可穿透性等，AI仍缺乏深刻的感知與預(yù)測(cè)能力。

“‘穿模’是AI生成視頻中的典型漏洞，反映了當(dāng)前技術(shù)在處理復(fù)雜動(dòng)態(tài)場(chǎng)景時(shí)的局限性，說(shuō)明數(shù)字內(nèi)容構(gòu)建與真實(shí)物理法則之間仍存在鴻溝?！彼{(lán)天說(shuō)。

記者調(diào)查發(fā)現(xiàn)，利用AI工具批量生成營(yíng)銷(xiāo)帶貨視頻，在電商運(yùn)營(yíng)中相當(dāng)普遍，網(wǎng)絡(luò)上甚至出現(xiàn)系統(tǒng)化教程。

在一個(gè)面向電商從業(yè)者的教學(xué)視頻中，一名自稱(chēng)經(jīng)驗(yàn)豐富的直播電商博主，詳細(xì)講解如何借助AI快速制作吸引眼球的帶貨視頻。他用來(lái)作為“優(yōu)秀模板”向?qū)W員展示的案例，正是王歡看到的出現(xiàn)“穿?！眴?wèn)題的童裝視頻。

該博主講述制作“爆款邏輯”稱(chēng)：“學(xué)員跟我學(xué)習(xí)之后，利用AI批量生產(chǎn)這類(lèi)視頻，精準(zhǔn)捕捉寶媽心理。視頻直擊寶媽群體對(duì)‘美觀(guān)’與‘實(shí)用’的雙重需求，這就是成功的關(guān)鍵?！?/p>

另一位博主在賬號(hào)中推薦更為“進(jìn)階”的操作。該博主以一條網(wǎng)絡(luò)播放量破千萬(wàn)的真實(shí)人物炸雞腿視頻為例，現(xiàn)場(chǎng)演示如何利用AI工具對(duì)原視頻人物進(jìn)行“深度改造”——不僅能更換面部特征、上衣和飾品，甚至可調(diào)整人物的體型與性別。

此類(lèi)教學(xué)內(nèi)容的傳播，模糊了真實(shí)與虛構(gòu)的邊界，給消費(fèi)環(huán)境帶來(lái)隱患與風(fēng)險(xiǎn)。

知名人士接連被冒名帶貨

“凡是‘捎貨’（帶貨）的肯定不是我！”10月初，在江西南昌舉行的一場(chǎng)國(guó)際學(xué)術(shù)年會(huì)上，中國(guó)工程院院士、國(guó)醫(yī)大師張伯禮以“打假”聲明作為開(kāi)場(chǎng)，向與會(huì)者展示了冒用他形象與聲音合成制作的AI偽造視頻。

“這是人工合成的假視頻，講話(huà)聲音聽(tīng)起來(lái)很像我，但所講的內(nèi)容完全不是我的本意。”張伯禮鄭重提醒公眾，務(wù)必提高鑒別力，警惕此類(lèi)數(shù)字造假。

今年10月20日，天津中醫(yī)藥大學(xué)發(fā)布嚴(yán)正聲明，指出近期社會(huì)上有“伯禮醫(yī)堂”“伯禮國(guó)醫(yī)館”“張伯禮中醫(yī)院”“張伯禮大藥房”等多家機(jī)構(gòu)，冒用張伯禮院士之名，通過(guò)社交媒體等平臺(tái)宣傳產(chǎn)品、培訓(xùn)或評(píng)審活動(dòng)。聲明中強(qiáng)調(diào)，這些機(jī)構(gòu)均與張伯禮院士無(wú)任何關(guān)聯(lián)，其行為嚴(yán)重誤導(dǎo)社會(huì)公眾，損害公眾健康權(quán)益，帶來(lái)醫(yī)療安全隱患，并涉嫌違反相關(guān)法律法規(guī)。

不僅專(zhuān)家學(xué)者深受其擾，知名媒體人也成為被仿冒對(duì)象。今年6月，北京市海淀區(qū)市場(chǎng)監(jiān)督管理局查處首例濫用AI技術(shù)發(fā)布虛假?gòu)V告的案件。

根據(jù)消費(fèi)者舉報(bào)，執(zhí)法人員對(duì)北京某公司展開(kāi)調(diào)查發(fā)現(xiàn)，該公司通過(guò)一個(gè)擁有數(shù)十萬(wàn)粉絲的視頻賬號(hào)，宣傳其銷(xiāo)售的“魚(yú)油”具有治療頭暈頭痛、記憶力下降等功效。直播視頻中出現(xiàn)中央廣播電視總臺(tái)主持人李梓萌的形象。

經(jīng)深入調(diào)查，該公司銷(xiāo)售的所謂“魚(yú)油”，實(shí)際產(chǎn)品執(zhí)行標(biāo)準(zhǔn)為普通糖果類(lèi)食品，不具備治療功能。經(jīng)權(quán)威機(jī)構(gòu)鑒定，視頻中出現(xiàn)的“主持人”形象是利用AI技術(shù)偽造生成。最終，該公司因違反《中華人民共和國(guó)廣告法》相關(guān)規(guī)定，受到市場(chǎng)監(jiān)管部門(mén)行政處罰。

某平臺(tái)售賣(mài)的“AI電商課”詳情頁(yè)面截圖，商家宣稱(chēng)可幫助用戶(hù)“復(fù)刻爆款視頻”。受訪(fǎng)者供圖

向AI換臉、虛假?gòu)V告等“亮劍”

北京市市場(chǎng)監(jiān)督管理局副局長(zhǎng)周小豐表示，北京市支持AI技術(shù)在廣告中的廣泛應(yīng)用，同時(shí)針對(duì)AI換臉、虛假?gòu)V告等問(wèn)題敢于“亮劍”。他說(shuō)，主持人、網(wǎng)紅等公眾人物社會(huì)認(rèn)知度高，一些不法經(jīng)營(yíng)者利用AI技術(shù)等方式偽造圖片、音視頻開(kāi)展虛假宣傳，借助公眾人物知名度推銷(xiāo)商品服務(wù)獲利，侵犯了消費(fèi)者合法權(quán)益。

“鑒于AI技術(shù)的復(fù)雜性和應(yīng)用的廣泛性，AI治理需要實(shí)現(xiàn)跨領(lǐng)域協(xié)同推進(jìn)。需要監(jiān)管持續(xù)加碼、平臺(tái)強(qiáng)化責(zé)任，更需要網(wǎng)民參與?！敝袊?guó)政法大學(xué)副教授、中國(guó)廣告協(xié)會(huì)法律與道德委員會(huì)專(zhuān)家朱巍表示。

在平臺(tái)治理方面，部分廣告企業(yè)著手構(gòu)建全流程管理機(jī)制。營(yíng)銷(xiāo)服務(wù)平臺(tái)巨量引擎商業(yè)安全治理標(biāo)準(zhǔn)負(fù)責(zé)人項(xiàng)韻介紹，面對(duì)AI廣告違背公序良俗、侵權(quán)抄襲、虛假宣傳等突出風(fēng)險(xiǎn)，平臺(tái)聚焦“精準(zhǔn)識(shí)別、從嚴(yán)處置”，今年第三季度前置攔截涉AI違規(guī)素材84萬(wàn)余個(gè)。

當(dāng)前，對(duì)AI虛假?gòu)V告的治理正從依賴(lài)人工審核，向人機(jī)協(xié)同、智能識(shí)別方向演進(jìn)。巨量引擎商業(yè)安全產(chǎn)品負(fù)責(zé)人潘荻表示，通過(guò)應(yīng)用多模態(tài)大模型，平臺(tái)提升了識(shí)別效率。系統(tǒng)可快速解析視頻素材，定位違規(guī)內(nèi)容出現(xiàn)的具體時(shí)段或畫(huà)面，為審核決策提供參考。

潘荻說(shuō)，與傳統(tǒng)審核模型不同，融合AI能力的大模型能夠結(jié)合大量案例進(jìn)行學(xué)習(xí)，理解規(guī)則背后的邏輯?！懊鎸?duì)從未見(jiàn)過(guò)的人臉或全新的造假技術(shù)，系統(tǒng)能基于對(duì)規(guī)則的理解識(shí)別違規(guī)本質(zhì)，從而顯著提升對(duì)新型、隱蔽違規(guī)內(nèi)容的發(fā)現(xiàn)能力?！?/p>

面對(duì)不斷演變的AI造假技術(shù)，治理體系需持續(xù)優(yōu)化。朱巍建議，應(yīng)加強(qiáng)對(duì)合成內(nèi)容的標(biāo)識(shí)與溯源，推動(dòng)平臺(tái)、監(jiān)管部門(mén)及技術(shù)提供商之間的數(shù)據(jù)共享與標(biāo)準(zhǔn)共建，構(gòu)建覆蓋內(nèi)容生成、傳播、識(shí)別全鏈條的治理生態(tài)，切實(shí)維護(hù)市場(chǎng)秩序與消費(fèi)者權(quán)益。

針對(duì)AI廣告帶貨亂象，北京市市場(chǎng)監(jiān)督管理局提醒：消費(fèi)者若發(fā)現(xiàn)疑似利用AI技術(shù)進(jìn)行的虛假宣傳等違法行為，應(yīng)注意留存證據(jù)材料，并通過(guò)12315、12345等熱線(xiàn)渠道向市場(chǎng)監(jiān)管部門(mén)舉報(bào)，共同維護(hù)良好的廣告市場(chǎng)秩序和消費(fèi)環(huán)境。同時(shí)，廣大經(jīng)營(yíng)者須嚴(yán)格遵守《中華人民共和國(guó)廣告法》《中華人民共和國(guó)反不正當(dāng)競(jìng)爭(zhēng)法》等法律法規(guī)，不得利用AI等新技術(shù)手段冒用他人名義或形象進(jìn)行營(yíng)銷(xiāo)宣傳活動(dòng)。

來(lái)源：中國(guó)青年報(bào)

(責(zé)任編輯：知識(shí))