北京日?qǐng)?bào) | 記者 袁璐
日前,全國(guó)多地警方發(fā)布了多個(gè)“AI詐騙”的典型案例,案件披露后,“AI詐騙正在全國(guó)爆發(fā)”話(huà)題一度沖上熱搜第一,引發(fā)網(wǎng)友熱議。記者調(diào)查發(fā)現(xiàn),目前有不少人對(duì)外提供定制AI換臉視頻,僅需正面半身照即可,成本低至數(shù)十元。
(資料圖)
“當(dāng)下AI換臉技術(shù)已相當(dāng)成熟,容易被不法分子利用,但無(wú)需過(guò)分恐慌及妖魔化AI換臉的可用范圍。”網(wǎng)絡(luò)安全專(zhuān)家表示,面對(duì)利用AI技術(shù)的新型騙局,公眾需提高警惕,碰到支付、轉(zhuǎn)賬等,盡量多渠道驗(yàn)證對(duì)方身份。
突然泛濫
多款軟件可快速實(shí)現(xiàn)AI換臉
AI換臉技術(shù),是一種利用人工智能和計(jì)算機(jī)視覺(jué)技術(shù),將一張人臉圖像的特征和表情轉(zhuǎn)換到另一張人臉圖像上,實(shí)現(xiàn)“換臉”效果。“AI換臉技術(shù)已相當(dāng)成熟,使用門(mén)檻越來(lái)越低?!睂?zhuān)注云計(jì)算與移動(dòng)終端安全研究的“白帽黑客”陳玉(化名)告訴記者,早在2017年,就有某ID名為“Deepfakes”的用戶(hù)首次發(fā)布AI換臉視頻?!霸撚脩?hù)賬號(hào)不久被封殺,但他直接開(kāi)源了其AI換臉項(xiàng)目的代碼?!?/p>
代碼開(kāi)源后,AI換臉技術(shù)宛如被打開(kāi)的“潘多拉魔盒”,迅速席卷全球。“只要具備基礎(chǔ)的電腦知識(shí),一個(gè)‘小白’也能在一天做出一個(gè)換臉視頻?!标愑癖硎荆壳笆忻嫔嫌卸嗫钴浖煽焖賹?shí)現(xiàn)AI換臉。除國(guó)外發(fā)布的專(zhuān)業(yè)軟件外,國(guó)內(nèi)部分娛樂(lè)APP也內(nèi)嵌了AI換臉功能。
昨天,記者下載了一款名為Face-Play的APP。“一鍵AI換臉變裝,還原平行宇宙的你!”該APP表示,用戶(hù)需要在APP界面內(nèi)拍攝完成一張比較規(guī)范的正面人像,點(diǎn)擊變臉,選擇自己想要的變臉特效即可獲得AI換臉視頻,模板多達(dá)3000多款,含“古風(fēng)漢服”“經(jīng)典角色”“氣質(zhì)美女”“港風(fēng)女神”等。不過(guò)該APP采用付費(fèi)制,周會(huì)員為17元,年會(huì)員為398元。此外,微信上還有不少有AI換臉功能的娛樂(lè)小程序,用戶(hù)無(wú)需下載也可在線(xiàn)使用。
隨便能買(mǎi)
定制AI換臉視頻僅需數(shù)十元
“眾女星換臉女兒國(guó)國(guó)王誰(shuí)更適配?楊超越、迪麗熱巴……”在B站上,這樣的明星換臉視頻播放量往往突破10萬(wàn)次。除明星換臉外,記者注意到,電商平臺(tái)上有商家抓住了人們對(duì)過(guò)世親人的思念,推出“AI想念的人”等視頻合成服務(wù),一條合成視頻收費(fèi)50元,月銷(xiāo)量超40件。
“你只需要提供一張人物正面半身照給我,我就能讓嘴巴眼睛動(dòng)起來(lái)。你提供文字,他說(shuō)出這段話(huà)?!痹撎詫毜曛饕贿吔榻B,一邊向記者出示了一條“客片”:“親愛(ài)的家人們,我想念你們,我和你們的外公在這邊過(guò)得很好,你們工作忙但也要照顧好身體?!痹谠摰曛靼l(fā)來(lái)的視頻里,一位頭發(fā)花白的老奶奶盯著鏡頭諄諄叮囑,面部表情自然,甚至帶有方言口音。
此外,還有不少商家以9.9元、19.9元等價(jià)格出售高清AI視頻換臉制作的教程,并提供多套模板和數(shù)字虛擬人面部捕捉工具。但記者發(fā)現(xiàn),這類(lèi)商品大多差評(píng)多多?!安灰I(mǎi),沒(méi)有用”“騙人的,誰(shuí)買(mǎi)誰(shuí)上當(dāng)”“資料包沒(méi)有想象中那么簡(jiǎn)單,也沒(méi)有人工售后,全靠自學(xué)”,網(wǎng)友們?cè)u(píng)價(jià)道。
“找人定制AI換臉視頻,看起來(lái)成片效果好,但實(shí)際上有很大的安全隱患。”陳玉表示,這一過(guò)程需要搜集大量的面部識(shí)別信息,而這恰恰是用戶(hù)最核心的個(gè)人信息?!皞€(gè)人信息一旦被比對(duì)之后,如果落到不法分子的手里,極易威脅到財(cái)產(chǎn)安全和人身安全?!?/p>
加強(qiáng)防范
AI詐騙有待更高層面監(jiān)管
AI換臉技術(shù)的可及性,讓AI詐騙頻發(fā)。近日,包頭市公安局發(fā)布一起使用AI技術(shù)進(jìn)行電信詐騙的案件,受害人郭先生10分鐘內(nèi)被騙430萬(wàn)元。5月25日,4月發(fā)生的一起AI換臉詐騙事件又被媒體曝光。在這起安徽安慶經(jīng)開(kāi)區(qū)發(fā)生的“冒充熟人”詐騙案中,詐騙分子使用了一段9秒鐘的智能AI換臉視頻佯裝“熟人”,詐騙金額達(dá)245萬(wàn)元。
基于AI換臉的詐騙手段已發(fā)展到什么地步?對(duì)此,奇安信首席反詐騙專(zhuān)家裴智勇對(duì)記者表示,不法分子在使用AI換臉進(jìn)行詐騙時(shí),大多以發(fā)送或展示AI換臉視頻片段作為手段。“比如最近警方提到的9秒AI換臉視頻,它其實(shí)沒(méi)有和受害人發(fā)生真實(shí)交互,由于時(shí)間很短,受害人也很難詳細(xì)分辨?!?/p>
“但我們無(wú)需過(guò)分恐慌及妖魔化AI換臉的可用范圍?!迸嶂怯卤硎?,以目前技術(shù)來(lái)看,想要盜取微信賬號(hào)、劫持微信鏡頭并在實(shí)時(shí)視頻聊天中運(yùn)用AI實(shí)時(shí)換臉和變聲技術(shù),難度和成本都極高。“騙子通常都是用很低的成本博取很高的收益,不太可能花費(fèi)高昂代價(jià)去批量尋找受害者?!?/p>
陳玉表示,普通用戶(hù)防范AI詐騙,關(guān)鍵在保護(hù)個(gè)人面部信息,防止被不法分子所獲取?!坝脩?hù)不要在互聯(lián)網(wǎng)上隨意公開(kāi)發(fā)布包含自己高清正面人臉的照片和視頻,或與不熟悉的人隨意進(jìn)行線(xiàn)上視頻等?!?/p>
“沒(méi)有經(jīng)過(guò)訓(xùn)練的普通人想要用肉眼識(shí)別視頻是否為AI合成,難度極高。騙子甚至不會(huì)給你詳細(xì)判斷的機(jī)會(huì),幾秒就掛斷?!迸嶂怯抡J(rèn)為,公眾與其花費(fèi)大量精力分辨騙子發(fā)來(lái)視頻的真假,不如在有懷疑時(shí)直接換一種渠道驗(yàn)證對(duì)方身份,業(yè)內(nèi)稱(chēng)為“雙因子身份驗(yàn)證”?!氨热绾糜岩曨l聊天后要求轉(zhuǎn)賬,你就撥打?qū)Ψ诫娫?huà)號(hào)碼再次確認(rèn);對(duì)方使用微信談?wù)摻灰?,你就不妨用QQ再找他問(wèn)問(wèn)。多渠道驗(yàn)證要比肉眼分辨視頻容易得多,也可靠得多?!?/p>
同時(shí),業(yè)內(nèi)專(zhuān)家認(rèn)為,AI詐騙亟待更高層面監(jiān)管,比如監(jiān)管部門(mén)應(yīng)該建立專(zhuān)門(mén)的人工智能安全機(jī)構(gòu),監(jiān)督AI技術(shù)在不同領(lǐng)域內(nèi)的應(yīng)用。技術(shù)企業(yè)也應(yīng)該加強(qiáng)數(shù)據(jù)合規(guī)建設(shè),在人工智能設(shè)計(jì)中嵌入個(gè)人信息保護(hù)機(jī)制,并采用技術(shù)措施和管理制度,確保個(gè)人信息安全。
標(biāo)簽:
- 【世界新要聞】定制換臉視頻僅需數(shù)十元?謹(jǐn)防詐騙手法披上AI外衣
- 商務(wù)部部長(zhǎng)王文濤會(huì)見(jiàn)世貿(mào)組織總干事伊維拉
- ST浩源:截至2023年5月20日,公司股東14658戶(hù),謝謝對(duì)公司的關(guān)注!
- 熱訊:2023年湖南養(yǎng)老金上調(diào)最新進(jìn)展如何?企退人員2023養(yǎng)老金上調(diào)多少?
- 環(huán)球微動(dòng)態(tài)丨AIGC應(yīng)用相繼落地 美圖公司開(kāi)啟美業(yè)數(shù)字化變革新時(shí)代
- 空調(diào)加雪種要多少錢(qián)(加雪種一般多少錢(qián))_世界速看
- 每日速訊:德班世乒賽:陳夢(mèng)/王藝迪晉級(jí)女雙決賽
- 又開(kāi)3張罰單!中國(guó)足協(xié)5月已開(kāi)出21張罰單
- 環(huán)球快資訊丨17歲小將曾莉棋斬獲2023高爾夫北京女子挑戰(zhàn)賽冠軍
- 美媒:美國(guó)債務(wù)上限談判仍未達(dá)成協(xié)議_今日最新
- 北京:今年高校畢業(yè)生約有28.5萬(wàn)人,前4月舉辦招聘活動(dòng)1385場(chǎng)|世界簡(jiǎn)訊
- _新華日?qǐng)?bào)_2023年05月27日3 熱文
- 全球焦點(diǎn)!教育部啟動(dòng)就業(yè)促進(jìn)周系列活動(dòng)
- 羊?qū)傺虻幕榕浜貌缓茫瑢傺虻暮蛯傺虻幕橐?/a>
- 世界百事通!鹽城鶴鳴亭智慧科技有限公司(鹽城市鶴鳴亭論壇)
- 二級(jí)保護(hù)動(dòng)物橙翅噪鹛現(xiàn)身海淀大西山!填補(bǔ)北京分布空白|環(huán)球觀(guān)焦點(diǎn)
- 最新資訊:中國(guó)建筑業(yè)協(xié)會(huì)住宅品質(zhì)提升交流會(huì)在南京召開(kāi)
- 全球觀(guān)天下!北京農(nóng)職院與石家營(yíng)村開(kāi)展支部共建,校村攜手助力鄉(xiāng)村振興
- 從歷史到經(jīng)典:制造“梁山好漢” 全球觀(guān)焦點(diǎn)
- 國(guó)產(chǎn)數(shù)據(jù)庫(kù)openGauss開(kāi)源三周年,“即將迎來(lái)生態(tài)拐點(diǎn)”
- 今天,廈門(mén)市數(shù)字體育產(chǎn)業(yè)園正式揭牌!-世界熱頭條
- 仙人球用什么肥料最好_仙人球的養(yǎng)殖方法和注意事項(xiàng)有哪些
- 萬(wàn)澤股份控股股東萬(wàn)澤集團(tuán)質(zhì)押1400萬(wàn)股用于自身生產(chǎn)經(jīng)營(yíng)
- 美股異動(dòng) | 熱門(mén)中概股多數(shù)走高 滿(mǎn)幫(YMM.US)漲5.66% 世界快資訊
- 環(huán)球觀(guān)速訊丨10萬(wàn)人“聽(tīng)”東方甄選講述晉祠故事!
- 黑蒜怎么吃效果最好_黑蒜怎么吃 熱文
- 大宗交易:華蘭疫苗成交1632.62萬(wàn)元,折價(jià)8.87%(05-26)
- 眾泰汽車(chē):根據(jù)公司目前研發(fā)進(jìn)度 B41車(chē)型無(wú)法預(yù)計(jì)是否能在今年下半年發(fā)布
- “霸王條款”等不公平格式條款將迎來(lái)監(jiān)管新規(guī)
- 樹(shù)樹(shù)皆秋色山山唯落暉的畫(huà)面(樹(shù)樹(shù)皆秋色山山唯落暉)
- 1 【世界新要聞】定制換臉視頻僅需數(shù)十元?謹(jǐn)防詐騙手法披上AI外衣
- 2 商務(wù)部部長(zhǎng)王文濤會(huì)見(jiàn)世貿(mào)組織總干事伊維拉
- 3 環(huán)球微動(dòng)態(tài)丨AIGC應(yīng)用相繼落地 美圖公司開(kāi)啟美業(yè)數(shù)字化變革新時(shí)代
- 4 每日速訊:德班世乒賽:陳夢(mèng)/王藝迪晉級(jí)女雙決賽
- 5 又開(kāi)3張罰單!中國(guó)足協(xié)5月已開(kāi)出21張罰單
- 6 環(huán)球快資訊丨17歲小將曾莉棋斬獲2023高爾夫北京女子挑戰(zhàn)賽冠軍
- 7 美媒:美國(guó)債務(wù)上限談判仍未達(dá)成協(xié)議_今日最新
- 8 北京:今年高校畢業(yè)生約有28.5萬(wàn)人,前4月舉辦招聘活動(dòng)1385場(chǎng)|世界簡(jiǎn)訊
- 9 世界百事通!鹽城鶴鳴亭智慧科技有限公司(鹽城市鶴鳴亭論壇)
- 10 二級(jí)保護(hù)動(dòng)物橙翅噪鹛現(xiàn)身海淀大西山!填補(bǔ)北京分布空白|環(huán)球觀(guān)焦點(diǎn)