9月1日起，國(guó)家互聯(lián)網(wǎng)信息辦公室等聯(lián)合發(fā)布的《人工智能生成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《辦法》）正式施行，就AI生成內(nèi)容標(biāo)識(shí)提出明確要求。給AI生成內(nèi)容“打標(biāo)”背后有何挑戰(zhàn)？對(duì)企業(yè)又有何影響？合新聞?dòng)浾邔?duì)話合肥本土企業(yè)，已有企業(yè)率先行動(dòng)，在此之前已經(jīng)通過“顯式標(biāo)識(shí)+隱式標(biāo)識(shí)”雙重機(jī)制，幫助公眾辨別信息真?zhèn)?，降低虛假信息誤導(dǎo)風(fēng)險(xiǎn)。
標(biāo)識(shí)新規(guī)構(gòu)建“數(shù)字信任”
費(fèi)宏飛曾是國(guó)內(nèi)人工智能頭部企業(yè)的運(yùn)營(yíng)副總監(jiān)，親歷了國(guó)內(nèi)大模型從實(shí)驗(yàn)室到產(chǎn)業(yè)化的全過程。今年，他開始創(chuàng)業(yè)，成立合肥貝有科技有限公司，主要為客戶提供人工智能音視頻內(nèi)容和培訓(xùn)服務(wù)。
在人工智能行業(yè)扎根十余年，費(fèi)宏飛告訴記者，《辦法》對(duì)規(guī)范行業(yè)秩序、推動(dòng)技術(shù)可信發(fā)展具有深遠(yuǎn)意義。他指出，標(biāo)識(shí)政策的核心在于“亮明AI生成內(nèi)容的身份”，從源頭控制信息風(fēng)險(xiǎn)，增強(qiáng)公眾對(duì)AI內(nèi)容的辨識(shí)度和信任度。
據(jù)他觀察：“雖然在此之前，國(guó)內(nèi)外部分企業(yè)雖已自發(fā)標(biāo)識(shí)AI內(nèi)容，但國(guó)內(nèi)缺乏統(tǒng)一標(biāo)準(zhǔn)，各平臺(tái)標(biāo)注方式也不同。”
記者梳理發(fā)現(xiàn)，在《辦法》出臺(tái)前，抖音、快手、微信視頻號(hào)等平臺(tái)會(huì)在用戶發(fā)布內(nèi)容前提供“AI聲明”選項(xiàng)，而百度貼吧、知乎、西瓜視頻等平臺(tái)則未提供任何與聲明或標(biāo)識(shí)相關(guān)的功能，用戶只能通過文案或標(biāo)簽的方式進(jìn)行AI聲明。
如今，《辦法》中要求將顯性標(biāo)識(shí)（如水印、文字說明）與隱性標(biāo)識(shí)（如統(tǒng)一格式的元數(shù)據(jù)）相結(jié)合，推動(dòng)標(biāo)識(shí)走向強(qiáng)制化、標(biāo)準(zhǔn)化，有助于壓實(shí)服務(wù)提供者與平臺(tái)責(zé)任，防范虛假信息傳播，逐步構(gòu)建起“數(shù)字信任”。
不同類型內(nèi)容的標(biāo)識(shí)難度會(huì)有不同嗎？針對(duì)更難辨別的文本內(nèi)容，應(yīng)該如何分辨呢？
費(fèi)宏飛分析，圖像與視頻因有水印傳統(tǒng)更易被接受，而文本因模型多樣、風(fēng)格靈活，識(shí)別難度較大。“所以《辦法》更聚焦于可驗(yàn)證來源與責(zé)任溯源，而非過度追求對(duì)未標(biāo)識(shí)內(nèi)容的全面識(shí)別。”
盡管當(dāng)前《辦法》有助于治理AIGC亂象，費(fèi)宏飛也指出，隨著AI愈發(fā)普及，未來監(jiān)管或更側(cè)重于對(duì)違法內(nèi)容的責(zé)任追溯與處罰，而并非依賴全面標(biāo)識(shí)。
他比喻道：“AI標(biāo)識(shí)如同‘轉(zhuǎn)基因食品’標(biāo)簽，僅說明生產(chǎn)方式，不代表內(nèi)容真實(shí)性——真正關(guān)鍵仍在壓實(shí)責(zé)任，推動(dòng)平臺(tái)和技術(shù)提供方守住底線。”
本土企業(yè)提前實(shí)踐
作為創(chuàng)業(yè)者，在《辦法》實(shí)施前，費(fèi)宏飛就已提前實(shí)踐。
從今年開始，他就在公司每日更新的微信公眾號(hào)中自發(fā)添加AI生成聲明。他介紹，企業(yè)需高度重視合規(guī)趨勢(shì)，主動(dòng)將標(biāo)識(shí)納入內(nèi)容生產(chǎn)流程，才能更好應(yīng)對(duì)監(jiān)管，建立起品牌信任。
對(duì)企業(yè)而言，《辦法》的實(shí)施，會(huì)帶來技術(shù)和成本上怎樣的影響？
安徽智靈動(dòng)力科技有限公司（簡(jiǎn)稱“智靈動(dòng)力”）是以數(shù)據(jù)服務(wù)、軟件開發(fā)和信息技術(shù)為主的高新技術(shù)企業(yè)。智靈動(dòng)力CTO朱旭琪坦言，短期來看企業(yè)需投入資源進(jìn)行合規(guī)改造，包括在產(chǎn)品中增加雙標(biāo)識(shí)功能、更新用戶協(xié)議、開展內(nèi)部自查和系統(tǒng)迭代等。他舉例稱，語音技術(shù)企業(yè)需在音頻首尾添加語音提示，并在元數(shù)據(jù)中嵌入來源信息，這些步驟均會(huì)增加研發(fā)與運(yùn)維成本。
但長(zhǎng)期來看，統(tǒng)一標(biāo)準(zhǔn)降低了多平臺(tái)適配的復(fù)雜性，有利于提高創(chuàng)作效率，還可以有效減少企業(yè)因標(biāo)準(zhǔn)不一而面臨的合規(guī)成本。朱旭琪表示：“這不僅為提供標(biāo)識(shí)技術(shù)服務(wù)和內(nèi)容質(zhì)量管控的中小企業(yè)帶來新機(jī)遇，也為產(chǎn)業(yè)公平競(jìng)爭(zhēng)和長(zhǎng)期健康發(fā)展奠定基礎(chǔ)。”
在被問及公司現(xiàn)有業(yè)務(wù)是否已涉及內(nèi)容標(biāo)識(shí)時(shí)，朱旭琪透露，此前在向客戶提供AIGC視頻內(nèi)容時(shí)，公司已在畫面局部和片尾標(biāo)注“AI制作”，但當(dāng)時(shí)用語尚未統(tǒng)一規(guī)范，部分企業(yè)客戶甚至要求刪除標(biāo)識(shí)?！掇k法》出臺(tái)后，標(biāo)識(shí)行為實(shí)現(xiàn)了標(biāo)準(zhǔn)化，顯著提升行業(yè)的一致性。
他還強(qiáng)調(diào)，即便AI生成內(nèi)容經(jīng)人工二次修改，只要仍保留實(shí)質(zhì)性AI貢獻(xiàn)，就須繼續(xù)標(biāo)識(shí)。目前該公司在AI短劇和漫劇制作中均嚴(yán)格執(zhí)行該標(biāo)準(zhǔn)，即便實(shí)拍劇中僅含部分AI生成鏡頭，也會(huì)在相應(yīng)段落明確聲明。
合肥技術(shù)為AI內(nèi)容嵌入“隱形指紋”
文本水印一直被視為技術(shù)難點(diǎn)。由于語言模型的多樣性和文本風(fēng)格的靈活性，傳統(tǒng)水印技術(shù)往往難以在不影響質(zhì)量的前提下實(shí)現(xiàn)有效嵌入與穩(wěn)定檢測(cè)。
記者從科大訊飛了解到，近日，科大訊飛聯(lián)合中國(guó)科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院、安徽星盾智能科技有限公司共同研發(fā)了新一代生成式文本隱式水印技術(shù)。
據(jù)介紹，科大訊飛早在星火大模型上線之初，就已對(duì)其生成的文字、圖片等內(nèi)容添加顯式標(biāo)識(shí)，并在使用過程中持續(xù)優(yōu)化提示方式，平衡用戶體驗(yàn)與信息透明。
而此次研發(fā)的新一代生成式文本隱式水印技術(shù)，則實(shí)現(xiàn)了重要突破：該技術(shù)通過動(dòng)態(tài)調(diào)整詞元選擇概率，在不改變文本質(zhì)量和流暢度的前提下，將水印信息編碼至文本結(jié)構(gòu)深處，相當(dāng)于為每一個(gè)生成詞元賦予獨(dú)一無二的“隱形指紋”。
值得一提的是，即使內(nèi)容被部分改寫或刪減，水印信息依然難以抹除。配套的水印檢測(cè)系統(tǒng)則能夠精準(zhǔn)識(shí)別AI生成來源，實(shí)現(xiàn)有效溯源?？拼笥嶏w相關(guān)負(fù)責(zé)人表示：“未來我們繼續(xù)嚴(yán)格執(zhí)行《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，探索更加高效、實(shí)用的水印與檢測(cè)方法。”
合肥在線-合新聞?dòng)浾?劉小容
