首頁 > 綜合 > 正文

東湖評(píng)論:筑牢“AI換臉”技術(shù)安全的防護(hù)墻

2023-05-12 12:29:53來源:荊楚網(wǎng) ?(湖北日報(bào)網(wǎng))  


(資料圖片)

近來,“AI換臉”技術(shù)又掀起一波熱潮,“只需上傳照片,輕松生成換臉視頻,隨心所欲體驗(yàn)百變造型”,不少“AI換臉軟件的簡介上這樣介紹,這種爆火的新玩法吸引了大批網(wǎng)友嘗試。

“AI換臉”技術(shù)通過深度合成算法處理,對(duì)圖片或者視頻中的目標(biāo)人臉進(jìn)行置換,便可“以假亂真”,滿足了網(wǎng)絡(luò)受眾的獵奇心理和社交需求,為影視、教育、娛樂等領(lǐng)域的發(fā)展提供了技術(shù)上的支持。不論是各色各樣的換臉變裝,還是影視劇中的技術(shù)修復(fù),人們真真切切地感受到了科技進(jìn)步帶來的驚喜與樂趣。

“AI換臉”技術(shù)帶給人新鮮感的同時(shí),風(fēng)險(xiǎn)也日益顯現(xiàn),非法濫用導(dǎo)致的侵犯隱私、危害數(shù)據(jù)安全、違法犯罪等問題層出不窮,一個(gè)個(gè)鮮活真實(shí)的案例就在我們身邊。隨意將明星替換到不雅視頻中丑化傳播;“AI黃謠”事件鬧得沸沸揚(yáng)揚(yáng),女子在乘坐地鐵時(shí)被不法之人利用AI一鍵脫衣;犯罪團(tuán)伙利用AI技術(shù),制作變聲換臉視頻,誘騙老人和小孩。從網(wǎng)民傳播照片到軟件程序開發(fā)平臺(tái)提供“換臉腳本和詳細(xì)教程”,再到灰色產(chǎn)業(yè)鏈條進(jìn)行照片加工服務(wù),逐步打開了“AI換臉”的“潘多拉的魔盒”。

“AI換臉”技術(shù)是數(shù)據(jù)智能化發(fā)展的產(chǎn)物,并沒有什么黑白好壞之分,但不法分子的貪婪與瘋狂卻是不可低估的。高科技不能淪為肆意侵權(quán)的幫兇,不能成為滿足他人欲望和非法牟利的工具,更不能成為引發(fā)社會(huì)信任危機(jī)的導(dǎo)火索。為“AI換臉”技術(shù)戴上“緊箍咒”、打造“鐵柵欄”,筑牢“AI換臉”技術(shù)安全的防護(hù)墻還需要法律和技術(shù)雙管齊下。

目前,針對(duì)“AI換臉”亂象,國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,重點(diǎn)強(qiáng)調(diào)深度合成技術(shù)涉及的信息安全主體責(zé)任,給“AI換臉”劃定應(yīng)用“紅線”。國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法(征求意見稿)》,明確合成人工智能技術(shù)服務(wù)的規(guī)范、監(jiān)督和管理等內(nèi)容,這些政策法規(guī)和監(jiān)管體系不斷完善,使從業(yè)者、使用者有法可依、違法必究。但“AI換臉”技術(shù)也會(huì)隨著發(fā)展日臻成熟,因此對(duì)于深度合成技術(shù)治理路徑還需進(jìn)一步探索,對(duì)數(shù)據(jù)確權(quán)、行業(yè)倫理、技術(shù)安全等方面作出更系統(tǒng)的規(guī)定,只有把法律的防護(hù)“盔甲”打造的無比堅(jiān)硬,才能時(shí)刻抵御住“AI換臉”這把雙刃劍。

以技術(shù)手段克服技術(shù)困境,除了網(wǎng)絡(luò)服務(wù)平臺(tái)對(duì)用戶信息審核及限定傳播范圍外,相關(guān)行業(yè)和監(jiān)管部門還需不斷加強(qiáng)技術(shù)更迭,細(xì)化人工智能算法的安全評(píng)估體系,研發(fā)出相應(yīng)的“反換臉”技術(shù),能夠檢測、鑒定、溯源深度合成的視頻和圖片,為法律的保護(hù)成效提供技術(shù)支撐,為可能到來的挑戰(zhàn)做好準(zhǔn)備。

身處在人工智能時(shí)代的每一個(gè)人,應(yīng)該提高對(duì)深度合成技術(shù)的辨別和防范意識(shí)以及自我素養(yǎng),在安全享受技術(shù)的同時(shí),共同維護(hù)清朗的網(wǎng)絡(luò)環(huán)境。只有多方發(fā)力,促進(jìn)“AI技術(shù)”向上向善,才能讓科學(xué)技術(shù)真正地助推社會(huì)發(fā)展,便利人們生活。

稿源:荊楚網(wǎng)(湖北日報(bào)網(wǎng))

作者:秦雪花(宜昌興山)

責(zé)編:王舒嫻

標(biāo)簽:

相關(guān)閱讀

精彩推薦

相關(guān)詞

推薦閱讀