一張圖片就能“活化”成視頻？警惕AI深度合成技術(shù)

一段視頻、一段語(yǔ)音，未必是真人拍攝或錄制，在你不知道的手機(jī)App后臺(tái)、支付界面、門禁閘機(jī)，或許有人正在盜刷你的臉。隨著人工智能(AI)深度合成技術(shù)日益精湛，合成的音頻、視頻等偽造內(nèi)容越來(lái)越能以假亂真。毫無(wú)疑問(wèn)，我們生活的現(xiàn)實(shí)世界正在面臨技術(shù)濫用的風(fēng)險(xiǎn)與挑戰(zhàn)。

盜刷人臉、篡改聲音，那都不叫事兒

近兩年來(lái)，在浙江、安徽、江蘇等地，多名盜取個(gè)人信息的犯罪嫌疑人被公安部門抓獲。犯罪嫌疑人作案流程極為雷同：先是非法獲取他人照片或有償收購(gòu)他人聲音等“物料”，然后利用人工智能技術(shù)將照片“活化”、合成動(dòng)態(tài)視頻，之后或直接騙過(guò)社交平臺(tái)、支付寶賬戶的人臉核驗(yàn)機(jī)制，進(jìn)行非法獲利；或騙過(guò)手機(jī)卡注冊(cè)過(guò)程中的人工審核環(huán)節(jié)，繼而利用他人名下的手機(jī)號(hào)進(jìn)行電信網(wǎng)絡(luò)詐騙、網(wǎng)絡(luò)賭博等，使被收集信息的人遭受安全威脅和財(cái)產(chǎn)損失。

一張陌生人的圖片，如何“活化”成為視頻？

記者在清華大學(xué)人工智能研究院實(shí)驗(yàn)室的演示電腦前看到，一張剛從微信朋友圈中下載的陌生人的正臉靜態(tài)照片導(dǎo)入電腦后，在技術(shù)人員的操作下，照片上的人物可瞬間“活”起來(lái)，根據(jù)指令做出相應(yīng)的眨眼、張嘴、皺眉等精細(xì)動(dòng)作和表情變化，并在短短十幾秒內(nèi)生成流暢視頻。

“完成由靜到動(dòng)這一驅(qū)動(dòng)操作的技術(shù)叫深度合成技術(shù)，是人工智能內(nèi)容合成技術(shù)的一種。”清華大學(xué)人工智能研究院工程師蕭子豪說(shuō)，深度合成技術(shù)已經(jīng)衍生出包括圖像合成、視頻合成、聲音合成、文本生成等多種技術(shù)。

在技術(shù)加持下，盜刷人臉不再是難事。在手機(jī)卡注冊(cè)、銀行卡申請(qǐng)、支付軟件登錄等需要人臉動(dòng)態(tài)識(shí)別的環(huán)節(jié)，這些偽造的合成視頻可協(xié)助不法分子通過(guò)后臺(tái)審核驗(yàn)證。

技術(shù)人員向記者演示了聲音合成的操作。幾段60秒的陌生人語(yǔ)音通過(guò)深度合成技術(shù)，即可生成“不用打卡，直接微信轉(zhuǎn)賬給我吧”“今天你不用去接孩子了。我就在學(xué)校附近，順路去接孩子”等語(yǔ)音，效果如同真人發(fā)出的聲音。這種聲音合成令人“細(xì)思極恐”。

深度合成正瓦解“眼見(jiàn)為實(shí)”

在國(guó)內(nèi)外內(nèi)容平臺(tái)、社交平臺(tái)上，深度合成內(nèi)容呈現(xiàn)“量質(zhì)齊升”。其中合成的影視劇片段、話題人物的換臉視頻等因具有較強(qiáng)娛樂(lè)性而被大量傳播。

清華大學(xué)人工智能研究院、北京瑞萊智慧科技有限公司、清華大學(xué)智媒研究中心、國(guó)家工業(yè)信息安全發(fā)展研究中心、北京市大數(shù)據(jù)中心聯(lián)合發(fā)布的《深度合成十大趨勢(shì)報(bào)告(2022)》顯示，2017年至2021年國(guó)內(nèi)外主流音視頻網(wǎng)站、社交媒體平臺(tái)上，深度合成視頻數(shù)量的年均增長(zhǎng)率超過(guò)77.8%。2021年新發(fā)布的深度合成視頻數(shù)量是2017年的11倍。與此同時(shí)，深度合成內(nèi)容的曝光度、關(guān)注度、傳播力也呈指數(shù)級(jí)增長(zhǎng)，2021年新發(fā)布深度合成視頻的點(diǎn)贊數(shù)已超3億次。

“網(wǎng)上流傳的視頻、語(yǔ)音，未必是真人拍攝或錄制?！闭憬髮W(xué)網(wǎng)絡(luò)空間安全學(xué)院院長(zhǎng)任奎說(shuō)，是全臉合成、音頻合成，還是真實(shí)拍攝錄制，許多時(shí)候憑借人眼難以分辨。

清華大學(xué)計(jì)算機(jī)系教授、人工智能研究院基礎(chǔ)理論研究中心主任朱軍認(rèn)為，深度合成技術(shù)正在改變信息傳播內(nèi)容信任鏈的底層邏輯和復(fù)雜程度，風(fēng)險(xiǎn)隱患在迅速加大。一方面，“眼見(jiàn)為實(shí)”的定義發(fā)生改變。盡管公眾對(duì)照片等靜態(tài)信息易被篡改已有認(rèn)知，但對(duì)視頻、聲音等動(dòng)態(tài)信息仍持有較高信任度，深度合成技術(shù)再次瓦解了“眼見(jiàn)為實(shí)”的信任邏輯。二是短視頻的廣泛傳播，使深度合成技術(shù)的濫用產(chǎn)生了較大范圍的影響力和破壞力。

清華大學(xué)蘇世民書院院長(zhǎng)、教授薛瀾認(rèn)為，當(dāng)深度合成等人工智能技術(shù)走向“濫用”，就會(huì)帶來(lái)一系列的倫理和治理問(wèn)題：輕則侵犯?jìng)€(gè)人財(cái)產(chǎn)安全、傷害個(gè)人尊嚴(yán)和隱私，重則威脅國(guó)家安全、影響社會(huì)穩(wěn)定。

引導(dǎo)技術(shù)向善，完善AI風(fēng)險(xiǎn)治理體系

技術(shù)是一把雙刃劍。用好這把雙刃劍，既不能讓技術(shù)成為脫韁的野馬，也不能讓技術(shù)創(chuàng)新原地踏步。

從善用技術(shù)的角度，中國(guó)工程院院士、信息技術(shù)專家鄔賀銓提出，對(duì)于技術(shù)的新應(yīng)用、新發(fā)展，不能“一刀切式”地禁止和干預(yù)，以免阻礙其創(chuàng)新。而應(yīng)當(dāng)從源頭上解決技術(shù)衍生的安全問(wèn)題，利用技術(shù)創(chuàng)新、技術(shù)對(duì)抗等方式，持續(xù)提升和迭代檢測(cè)技術(shù)的能力。

朱軍認(rèn)為，當(dāng)前針對(duì)深度合成應(yīng)用的檢測(cè)技術(shù)仍處于探索階段，手段尚不成熟。建議充分發(fā)揮科研院所、科技企業(yè)等力量，盡快形成有效、高效的深度合成應(yīng)用技術(shù)檢測(cè)能力，以在輿論戰(zhàn)、信息戰(zhàn)中爭(zhēng)取技術(shù)優(yōu)勢(shì)。

從風(fēng)險(xiǎn)治理的角度，國(guó)家工業(yè)信息安全發(fā)展研究中心副總工程師邱惠君指出，近年來(lái)的數(shù)字化轉(zhuǎn)型倒逼多國(guó)人工智能安全風(fēng)險(xiǎn)治理落地。歐盟率先在人工智能領(lǐng)域開(kāi)展了立法，基于風(fēng)險(xiǎn)分析的方法，重點(diǎn)明確針對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)的監(jiān)管框架。

“人工智能安全包括數(shù)據(jù)安全、框架安全、算法安全、模型安全、運(yùn)營(yíng)安全等組成部分。對(duì)此，我們應(yīng)當(dāng)構(gòu)建‘規(guī)定+標(biāo)準(zhǔn)+法律’的一體化治理規(guī)則體系，出臺(tái)風(fēng)險(xiǎn)治理的指南、標(biāo)準(zhǔn)、評(píng)估規(guī)范，在條件具備時(shí)完善立法?！鼻窕菥ㄗh，重點(diǎn)圍繞數(shù)據(jù)、算法、模型和運(yùn)維的角度，一是構(gòu)建數(shù)據(jù)采集質(zhì)量規(guī)范；二是根據(jù)應(yīng)用場(chǎng)景對(duì)人工智能進(jìn)行系統(tǒng)風(fēng)險(xiǎn)分級(jí)分類；三是建立安全責(zé)任體系，明確設(shè)計(jì)開(kāi)發(fā)單位、運(yùn)維單位、數(shù)據(jù)提供方的各自責(zé)任。

中倫律師事務(wù)所合伙人陳際紅表示，打擊“變臉”詐騙犯罪，應(yīng)從技術(shù)的合法使用邊界、技術(shù)的安全評(píng)估程序、濫用技術(shù)的法律規(guī)制等方面予以規(guī)范，提高技術(shù)濫用的違法成本。

朱軍提示，公眾應(yīng)當(dāng)對(duì)深度合成新技術(shù)、新應(yīng)用形成正確認(rèn)知，對(duì)其不良應(yīng)用提高防范意識(shí)，保護(hù)好個(gè)人聲紋、照片等信息，不輕易提供人臉、指紋、虹膜等個(gè)人生物信息給他人。

責(zé)編：周曉明

來(lái)源：半月談微信公號(hào)