(資料圖片)
近日，國(guó)家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》。其中要求提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)，任何組織和個(gè)人不得用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識(shí)。該規(guī)定自明年1月10日起施行。
繼算法推薦之后，深度合成技術(shù)也迎來(lái)單獨(dú)規(guī)范，這其實(shí)和我們目前的互聯(lián)網(wǎng)生活息息相關(guān)。
近日火爆全網(wǎng)的聊天機(jī)器人ChatGPT，以及“換臉”、AI繪畫(huà)、虛擬主播等為人所熟知的場(chǎng)景都使用了深度合成技術(shù)。很多用戶日常也在使用這些技術(shù)，比如一些視頻平臺(tái)提供的換臉?lè)?wù)，讓用戶可以自己制作很多新奇有趣的視頻產(chǎn)品，玩出一些有趣的網(wǎng)絡(luò)梗。但其中的隱私安全問(wèn)題一直備受爭(zhēng)議，普通用戶對(duì)潛在的風(fēng)險(xiǎn)也并不了解。
以AI“換臉”為例，負(fù)面事件并非沒(méi)有發(fā)生過(guò)。2019年，AI“換臉”應(yīng)用ZAO一度爆紅。人們只要上傳一張自己的照片，就可以換臉成為影視劇主角。然而僅僅三天，ZAO便因涉嫌未依法依規(guī)收集使用人臉信息被工信部約談，接著直接下架。
此外，深度合成技術(shù)也被應(yīng)用在了散播虛假信息、詐騙、色情內(nèi)容制作上。類似事件人們也見(jiàn)過(guò)不少了，一些栩栩如生的視頻引發(fā)了巨大的社會(huì)關(guān)注，最后證明不過(guò)是換臉合成而來(lái)。這些亂象顯然也有進(jìn)一步規(guī)制的必要。
隨著新規(guī)的出臺(tái)，這些合成技術(shù)將被顯著標(biāo)識(shí)，就相當(dāng)于是個(gè)時(shí)刻存在的提醒，用戶能很清楚地了解到接下來(lái)將使用的技術(shù)就是人工合成，這當(dāng)中可能存在風(fēng)險(xiǎn)。雖然這可能給用戶玩梗澆一盆涼水，但用戶的知情權(quán)才是第一位的，相應(yīng)的產(chǎn)品邏輯也應(yīng)當(dāng)向這個(gè)方向轉(zhuǎn)變。
當(dāng)然，僅有提示還不夠，關(guān)鍵是對(duì)互聯(lián)網(wǎng)平臺(tái)要保持足夠的制度性約束。比如《規(guī)定》明確，深度合成服務(wù)提供者、技術(shù)支持者應(yīng)當(dāng)依法配合網(wǎng)信部門和有關(guān)主管部門開(kāi)展的監(jiān)督檢查，并提供必要的支持和協(xié)助。發(fā)現(xiàn)存在較大信息安全風(fēng)險(xiǎn)的，網(wǎng)信部門和有關(guān)主管部門可以按照職責(zé)依法要求其采取暫停信息更新、用戶賬號(hào)注冊(cè)或者其他服務(wù)等措施。
這一方面是對(duì)用戶的提示，另一方面也是對(duì)各大互聯(lián)網(wǎng)平臺(tái)的約束。這不僅是讓用戶知情，互聯(lián)網(wǎng)服務(wù)提供者也必須明白自己的義務(wù)，對(duì)涉及用戶隱私的信息必須做到充分保護(hù)，任何一個(gè)產(chǎn)品功能和營(yíng)銷手段都不能凌駕于這條底線之上。
還是要認(rèn)識(shí)到，互聯(lián)網(wǎng)技術(shù)提供了異常多元、新奇的產(chǎn)品體驗(yàn)，用戶當(dāng)然也有網(wǎng)絡(luò)玩梗的剛需，但安全風(fēng)險(xiǎn)問(wèn)題也隨著互聯(lián)網(wǎng)介入生活程度的加深而不斷凸顯。當(dāng)一項(xiàng)新技術(shù)橫空出世之際，背后的漏洞風(fēng)險(xiǎn)也應(yīng)當(dāng)審慎評(píng)估，相關(guān)的規(guī)定應(yīng)該適時(shí)跟上，努力縮短從野蠻生長(zhǎng)到規(guī)范發(fā)展的時(shí)間差。（江城）
關(guān)鍵詞： 主管部門 用戶賬號(hào) 或者其他
責(zé)任編輯：Rex_13
