▲新京報(bào)刊發(fā)報(bào)道揭露AI濫用亂象。新京報(bào)資料圖

據(jù)新京報(bào)調(diào)查，隨著AI的迅猛發(fā)展，各類與之相關(guān)的騙局也隨之出現(xiàn)。如，有的AI數(shù)字人批量上線圍獵老年人，通過養(yǎng)生直播引流，誘導(dǎo)老人高價(jià)買“神藥”；有的AI篡改短視頻，克隆名人聲音帶貨，“移花接木”設(shè)置消費(fèi)陷阱；有的通過“AI薦號(hào)”圍獵彩民，騙取彩民“注資”。這些亂象引發(fā)廣泛關(guān)注。

各類AI應(yīng)用正在加速進(jìn)入人們的日常生活，這讓很多事情變得更加便利，同時(shí)也讓一些心術(shù)不正者看到了機(jī)會(huì)?？傮w而言，無論是批量化的AI數(shù)字人圍獵老人，還是利用AI克隆名人聲音帶貨，抑或是衍生出如“AI薦號(hào)”等新騙術(shù)，都提醒著AI技術(shù)被濫用帶來的現(xiàn)實(shí)風(fēng)險(xiǎn)。

對(duì)此，首先全社會(huì)還是要從意識(shí)上對(duì)于AI技術(shù)被濫用的程度建立客觀認(rèn)知。一個(gè)值得注意的現(xiàn)象是，今年全國(guó)兩會(huì)上，呼吁規(guī)范AI應(yīng)用已成為代表委員們的熱點(diǎn)議題。

如“靳東兩會(huì)建議AI換臉立法”登上熱搜，雷軍接受采訪時(shí)表示，“我本人也是主要的受害者，呼吁盡快立法重點(diǎn)整治”，并提交關(guān)于加強(qiáng)“AI換臉擬聲”等違法侵權(quán)重災(zāi)區(qū)治理的建議。這一幕在過去是沒有的。而其也真實(shí)地表明，AI濫用的風(fēng)險(xiǎn)已到了必須正視的地步，并且蔓延速度非?？?，針對(duì)性的治理和監(jiān)管迫在眉睫。

認(rèn)識(shí)到了問題所在，下一步就是要對(duì)癥施策。其實(shí)，相關(guān)的制度建設(shè)和規(guī)則引導(dǎo)早就在進(jìn)行之中。如2022年，相關(guān)部門發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》就明確，深度合成服務(wù)提供者提供的深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。

但從現(xiàn)實(shí)來看，該規(guī)定顯然并沒有得到足夠執(zhí)行。究其原因，到底是平臺(tái)重視不足，還是技術(shù)條件限制，或是規(guī)則本身的效力和位階不足，抑或是兼而有之，相關(guān)部門有必要牽頭做好綜合性調(diào)查評(píng)估。并在此基礎(chǔ)上，給予精準(zhǔn)“補(bǔ)缺”。

一個(gè)積極信號(hào)是，今年的全國(guó)人大常委會(huì)工作報(bào)告已提出，將圍繞AI等新興領(lǐng)域加強(qiáng)立法研究。最高人民法院工作報(bào)告也指出，要依法妥善審理涉AI糾紛案件，既要支持AI技術(shù)的合法應(yīng)用，又要懲治利用AI實(shí)施的侵權(quán)行為。

規(guī)則完善之外，有效遏制AI技術(shù)濫用風(fēng)險(xiǎn)，也應(yīng)重視“以魔法打敗魔法”，跳出傳統(tǒng)思維和技術(shù)限制，積極用好AI技術(shù)在防范技術(shù)濫用上的優(yōu)勢(shì)。

如對(duì)平臺(tái)來說，針對(duì)一些未標(biāo)注AI提示信息的合成內(nèi)容，以及篡改的短視頻，是否可以建立新的AI模型來提升檢測(cè)識(shí)別能力，以實(shí)施精準(zhǔn)監(jiān)測(cè)和干預(yù)？這方面，政策上也不妨鼓勵(lì)和引導(dǎo)更多用于互聯(lián)網(wǎng)治理的AI技術(shù)創(chuàng)新，用AI來倒逼AI向善。

還要注意的一點(diǎn)是，大量與AI相關(guān)的騙局，不少只是一些傳統(tǒng)騙局的“變種”。如AI數(shù)字人向老年人兜售聲稱可以治糖尿病的“神藥”，早就因?yàn)闊o效、虛假宣傳被投訴；而借數(shù)字人直播引流的同時(shí)，“通過給老人科普養(yǎng)生常識(shí)、送土特產(chǎn)、電話推銷等方式進(jìn)行洗腦式營(yíng)銷”，也是早就有之的老套路。

可以說，AI技術(shù)只是給這些騙局提供了幫助，但“病灶”并不是AI本身。對(duì)此，繼續(xù)加大一些非技術(shù)性亂象的綜合治理，才能真正對(duì)一些領(lǐng)域AI濫用風(fēng)險(xiǎn)釜底抽薪。如那些靠生產(chǎn)效果存疑的“神藥”發(fā)家的企業(yè)卻能長(zhǎng)期存在，就需要有其他層面的治理強(qiáng)化。

說到底，遏制AI技術(shù)濫用風(fēng)險(xiǎn)，是一道綜合考題。既要適時(shí)填補(bǔ)法律規(guī)則漏洞，也要壓實(shí)平臺(tái)責(zé)任，既要協(xié)同推進(jìn)一些“傳統(tǒng)”灰色地帶的治理，也離不開AI時(shí)代相關(guān)公眾教育的跟進(jìn)，以提升全民對(duì)AI濫用風(fēng)險(xiǎn)的警惕性和鑒別力。

撰稿 / 吳振（媒體人）

編輯 / 馬小龍

校對(duì) / 李立軍