近日，社交媒體平臺(tái)上一系列“細(xì)節(jié)滿滿”的短視頻引發(fā)熱議。這些視頻畫面逼真，情節(jié)生動(dòng)，從“歷史人物復(fù)現(xiàn)”到“現(xiàn)實(shí)生活場(chǎng)景”，甚至“重大突發(fā)事件”，讓不少網(wǎng)友信以為真。然而，經(jīng)調(diào)查發(fā)現(xiàn)，這些視頻大多由AI生成，背后隱藏著一條從技術(shù)工具、賬號(hào)孵化到流量變現(xiàn)的灰色產(chǎn)業(yè)鏈。
AI視頻“以假亂真”，網(wǎng)友驚呼“難辨真假”
"這兩個(gè)月，我媽經(jīng)常刷短視頻看一位老奶奶跳養(yǎng)生操，羨慕她雖然年紀(jì)大，但動(dòng)作比年輕人還要靈活矯健，還專門加了粉絲群，購(gòu)買保健產(chǎn)品。"市民陳女士說(shuō)?？勺罱?，她母親突然不練了，一問(wèn)才知道，原來(lái)那位"老奶奶"其實(shí)是AI合成的虛擬人物，現(xiàn)在連跟著鍛煉的勁頭都沒(méi)了。
有網(wǎng)友發(fā)帖稱，自己在社交平臺(tái)上看到有博主聲稱自己41歲，笑容甜美不變，但實(shí)際上每一條筆記都長(zhǎng)得一模一樣，更有人發(fā)現(xiàn)她早期的視頻里，動(dòng)作僵硬，像極了AI生成的效果，但即便如此，她依然吸引了上萬(wàn)點(diǎn)贊。
AI視頻為何能騙過(guò)大眾？有業(yè)內(nèi)人士透露，目前主流AI視頻工具等已能實(shí)現(xiàn)高度擬真渲染，甚至可以精細(xì)控制人物動(dòng)作和場(chǎng)景變換。“只要輸入合適的提示詞，再稍加后期調(diào)色，普通人很難分辨。”
這些AI視頻的背后，是一套成熟的“造假-引流-變現(xiàn)”商業(yè)模式。新賬號(hào)想快速漲粉，必須“蹭爆點(diǎn)”。一旦某條視頻爆了，立刻批量發(fā)布同類內(nèi)容，迅速收割流量。
在各大社交平臺(tái)上，AI造假起號(hào)的教學(xué)內(nèi)容屢見不鮮，其中情感、養(yǎng)生、顏值等領(lǐng)域尤為泛濫。這些教程往往打著"新賽道，“流量大”"素人也能輕松上手""單條變現(xiàn)800+"等誘人旗號(hào)，甚至還有部分賬號(hào)曬出起號(hào)后的收入，吸引大量用戶關(guān)注。
這些通過(guò)AI內(nèi)容快速積累起粉絲和流量的賬號(hào)，到后續(xù)可能會(huì)接商業(yè)廣告、賬號(hào)轉(zhuǎn)賣或引流至其他平臺(tái)。最令人擔(dān)憂的是，一些不法分子可能會(huì)利用這類賬號(hào)散布虛假信息或?qū)嵤┰p騙。
AI起號(hào)或涉嫌違法違規(guī)
安徽大森律師事務(wù)所律師袁昌鑫表示，針對(duì)現(xiàn)在互聯(lián)網(wǎng)上通過(guò)偽造身份、生成虛假內(nèi)容、規(guī)避平臺(tái)監(jiān)管等手段謀取利益的AI造假起號(hào)行為，可能涉嫌多種違法違規(guī)情形。
“在注冊(cè)環(huán)節(jié)，批量偽造身份信息、虛構(gòu)互動(dòng)數(shù)據(jù)的行為直接違反《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》和《互聯(lián)網(wǎng)用戶賬號(hào)信息管理規(guī)定》，觸碰了社交賬號(hào)實(shí)名制的紅線。”袁昌鑫表示，《反電信網(wǎng)絡(luò)詐騙法》明確禁止非法買賣、出租、出借互聯(lián)網(wǎng)賬號(hào)，若賬號(hào)在轉(zhuǎn)讓后被用于違法犯罪，原使用者可能需承擔(dān)連帶責(zé)任甚至構(gòu)成共同犯罪。
另外，AI生成的虛假內(nèi)容常被用于帶貨或推廣，此類行為違反《廣告法》第四條關(guān)于“廣告不得含有虛假內(nèi)容，不得欺騙和誤導(dǎo)消費(fèi)者”的規(guī)定，可能面臨責(zé)令停止發(fā)布、罰款、吊銷營(yíng)業(yè)執(zhí)照等處罰。若消費(fèi)者因虛假內(nèi)容遭受損失，商家還需依據(jù)《消費(fèi)者權(quán)益保護(hù)法》承擔(dān)賠償責(zé)任。
“AI洗稿生成的‘偽原創(chuàng)內(nèi)容’（如同義詞替換、片段拼接）可能侵犯原作者的復(fù)制權(quán)與改編權(quán)。”袁昌鑫舉例，未經(jīng)授權(quán)模仿特定作品的構(gòu)圖、細(xì)節(jié)或風(fēng)格進(jìn)行商業(yè)使用，可能被認(rèn)定為實(shí)質(zhì)性相似侵權(quán)。若AI模型訓(xùn)練數(shù)據(jù)包含未經(jīng)授權(quán)的素材（如圖像、文字），還可能引發(fā)大規(guī)模著作權(quán)糾紛。
此外，AI生成的虛假內(nèi)容若涉及醫(yī)療健康、金融財(cái)經(jīng)等敏感領(lǐng)域，可能引發(fā)公眾誤解或社會(huì)混亂。此類行為可能違反《治安管理處罰法》，若情節(jié)嚴(yán)重（如造成重大經(jīng)濟(jì)損失或社會(huì)恐慌），還可能觸犯《刑法》中的編造、故意傳播虛假信息罪，面臨刑事處罰。
袁昌鑫認(rèn)為，對(duì)于承擔(dān)監(jiān)管義務(wù)的互聯(lián)網(wǎng)平臺(tái)，當(dāng)違規(guī)者常采用技術(shù)手段（如修改視頻代碼、裁除水?。┫魅魽I生成痕跡，導(dǎo)致虛假內(nèi)容流向脆弱群體。若其未能有效攔截違規(guī)內(nèi)容，也可能會(huì)面臨警告、罰款等處罰。
合肥在線-合新聞?dòng)浾?邵曉杰
