【AI換臉詐騙出現(xiàn)涉政苗頭】近日,北方某地警方發(fā)布了一起利用“AI換臉”對當(dāng)事人實施詐騙的案件。詐騙分子運(yùn)用人工智能技術(shù),通過微信視頻通話與受害人進(jìn)行了十多分鐘交流,受害人轉(zhuǎn)賬數(shù)百萬元。
引人關(guān)注的是,該案不僅是一起新型網(wǎng)絡(luò)詐騙,更是一起涉政詐騙案件。
不法分子模擬偽造的,是受害人認(rèn)識的一名領(lǐng)導(dǎo)干部。在微信視頻聊天中,“換臉”后的騙子提出,其朋友有一筆工程保證金需要借用受害人公司的對公賬戶走賬。在視頻畫面中,騙子“換臉”后面部表情自然,聲音逼真,受害人便放松了警惕,轉(zhuǎn)賬后打電話確認(rèn),才知道被騙。
(資料圖片僅供參考)
“AI換臉”“AI擬聲”、虛擬場景構(gòu)建……隨著設(shè)備性能提升和技術(shù)軟件優(yōu)化,利用“AI換臉”技術(shù)實施詐騙,已成為一種新型網(wǎng)絡(luò)詐騙。近期,各地曝出多起人工智能“輔助”詐騙案件。一些不法分子利用人工智能“深度偽造”冒充領(lǐng)導(dǎo)干部行騙,值得引起高度警惕。
由于工作原因,一些領(lǐng)導(dǎo)干部的面部、聲音等生物特征信息更易被獲取,被人工智能學(xué)習(xí)利用后造成的潛在危害性也更大。接受《瞭望》新聞周刊采訪的業(yè)內(nèi)人士表示,社會各界都應(yīng)提高識騙防騙意識,有關(guān)部門應(yīng)依法加大對人工智能“輔助”詐騙案件的執(zhí)法力度,嚴(yán)肅追究相關(guān)人員法律責(zé)任。
眼見不一定為實
近日,華北某地一名地方干部正為一件事犯愁。有人冒用他的名義,與他的親朋好友大范圍添加微信好友。
“和我的親戚朋友加完好友后,騙子還給他們打了視頻電話。通話時間只有幾秒鐘,朋友們感覺聲音、畫面都有點兒像。”這名干部說,直到許多朋友打電話詢問具體情況,他才知道此事。
“估計下一步就要開始騙錢了。所以,最近幾天我連續(xù)發(fā)了好幾條朋友圈提醒大家?!边@名干部說。
受訪業(yè)內(nèi)人士表示,只要有足夠的圖像、音頻素材,不法分子就可以通過人工智能“換臉”軟件、合成聲音軟件偽造虛擬形象,實施詐騙?!爸恍杼崛∽钌?0個字、最多32個字,就可以合成其聲音?!眹W(wǎng)信息通信產(chǎn)業(yè)集團(tuán)安全科研專家趙明明告訴記者。
一些領(lǐng)導(dǎo)干部由于工作原因出鏡率相對較高,這為騙子提供了豐富的面部識別素材;在電視、廣播新聞中也可以找到一些領(lǐng)導(dǎo)干部的大段同期聲,這令“偽造成本”更低。
在一些案件中,不法分子通過“AI換臉”合成視頻等方式,偽造與領(lǐng)導(dǎo)干部見面、合影等內(nèi)容實施詐騙,增加了涉政類詐騙的欺騙性和危害性。
AI詐騙四大趨勢
中國信息通信研究院相關(guān)負(fù)責(zé)人表示,當(dāng)前,人工智能“輔助”詐騙存在四大趨勢。隨著人工智能技術(shù)的普及應(yīng)用,不法分子實施詐騙的精準(zhǔn)性、迷惑性、隱蔽性增強(qiáng),公安、檢察等政法機(jī)關(guān)辦案將面臨偵查破案難、電子證據(jù)調(diào)取難、認(rèn)定處理難等現(xiàn)實困難。
——技術(shù)成本由高向低轉(zhuǎn)變。騰訊安全玄武實驗室負(fù)責(zé)人于旸告訴記者,隨著技術(shù)發(fā)展,人工智能“深度偽造”“深度合成”已成為一種可以低成本實現(xiàn)的技術(shù)。
——技術(shù)應(yīng)用由單一向多元轉(zhuǎn)變。騰訊互聯(lián)網(wǎng)安全專家楊建表示,實施人工智能“輔助”詐騙一般要滿足多個要素,包括非法獲取信息、構(gòu)建熟人賬號、“換臉換聲”、破解手機(jī)攝像頭權(quán)限等,涉及多項技術(shù)手段。
——偽造身份從模糊向具體轉(zhuǎn)變。傳統(tǒng)電信詐騙往往只能以“某派出所工作人員”“某網(wǎng)站客服”等模糊虛指人設(shè)實施。但在人工智能“輔助”詐騙中,騙子可以以具體的人物形象出現(xiàn)。
——作案模式從“廣撒網(wǎng)”向精準(zhǔn)施騙轉(zhuǎn)變。社交媒體平臺往往設(shè)有視頻驗證環(huán)節(jié),這在客觀上增加了冒充熟人、領(lǐng)導(dǎo)干部等詐騙的“可信度”。受訪專家分析,隨著技術(shù)發(fā)展,精準(zhǔn)盜號、分析關(guān)系網(wǎng)等有指向性的網(wǎng)絡(luò)詐騙案件占比可能有所上升。
多層面約束規(guī)范
奇安信安全專家裴智勇表示,目前,專業(yè)級別的人工智能“深度偽造”仍需通過較強(qiáng)的硬件在實驗室環(huán)境實現(xiàn)。這意味著,近期“AI換臉”詐騙形成系統(tǒng)性風(fēng)險的可能性不大,但仍需未雨綢繆、預(yù)防打擊。
在源頭端,需要進(jìn)一步加強(qiáng)公民個人信息保護(hù)。楊建等專家建議,加強(qiáng)公民信息尤其是生物特征等隱私信息的技術(shù)、司法保護(hù)力度。針對冒充領(lǐng)導(dǎo)干部等涉政詐騙風(fēng)險,可通過規(guī)范領(lǐng)導(dǎo)干部個人社交賬號管理,普及提升賬號安全意識等方式進(jìn)行規(guī)避。
在技術(shù)層面,數(shù)字水印鑒偽等技術(shù)有待進(jìn)一步普及利用。趙明明表示,數(shù)字水印能將特定的信息嵌入音頻、圖片或是視頻等數(shù)字信號中,進(jìn)行版權(quán)保護(hù),以防止未經(jīng)授權(quán)的復(fù)制和拷貝。他建議,加強(qiáng)打入數(shù)字水印、開發(fā)真?zhèn)舞b別等技術(shù)治理手段,使其為數(shù)字內(nèi)容生產(chǎn)商以及用戶端等提供廣泛服務(wù),以科技手段制約不法分子利用人工智能技術(shù)實施犯罪。
瑞萊智慧高級產(chǎn)品經(jīng)理張旭東建議,對涉及政務(wù)、安防、金融、消費(fèi)等重要應(yīng)用的人臉識別技術(shù)漏洞進(jìn)行完善和升級,防范不法分子通過后臺劫持手機(jī)攝像頭權(quán)限。
“尤其是涉眾、涉密、涉及公共利益的相關(guān)平臺和技術(shù)服務(wù)提供商,需優(yōu)先完成技術(shù)加固,對手機(jī)模擬器做好防范。同時,鼓勵和引導(dǎo)更多手機(jī)廠商在系統(tǒng)升級時支持3D人臉識別技術(shù)?!睆埿駯|說。
從法律制度方面看,反電信網(wǎng)絡(luò)詐騙法、刑法等法律為打擊治理各類網(wǎng)絡(luò)詐騙活動提供了法律支撐。趙明明建議,進(jìn)一步完善人工智能等領(lǐng)域相關(guān)法律,通過案例等指引,建立人工智能侵權(quán)糾紛法律框架、訴訟程序和賠償標(biāo)準(zhǔn)等。
此外,還需通過完善相關(guān)制度進(jìn)一步落實平臺責(zé)任。新華三集團(tuán)安全專家曹亮表示,對核心領(lǐng)域使用人臉識別技術(shù)的產(chǎn)品,監(jiān)管部門應(yīng)建立分級別、多層次的國家安全標(biāo)準(zhǔn)及行業(yè)安全標(biāo)準(zhǔn);壓實平臺、企業(yè)主體責(zé)任,督促相關(guān)應(yīng)用開發(fā)企業(yè)履行源頭審查責(zé)任;建立健全用戶注冊、算法機(jī)制機(jī)理審核、數(shù)據(jù)安全個人信息保護(hù)、反電信網(wǎng)絡(luò)詐騙、應(yīng)急處置等管理制度。(記者 吳帥帥 劉懿德 蘭天鳴 ?《瞭望》2023年第27期)
標(biāo)簽:
- 【環(huán)球聚看點】“AI換臉”詐騙出現(xiàn)涉政苗頭 AI詐騙四大趨勢
- 當(dāng)前速訊:北京一導(dǎo)游在頤和園中暑身亡 中暑有哪些癥狀?
- “互聯(lián)網(wǎng)+”回收成新潮流 再生資源回收企業(yè)突破9萬家
- 西博“大家”談|卡曼查卡亞洲區(qū)執(zhí)行總裁ERWIN CAMPOS:希望西博會越辦越大,未來能開設(shè)海鮮展區(qū) 天天實時
- 郵儲銀行眉山市分行積極開展“提升市民金融素養(yǎng)及風(fēng)險防范能力”系列金融知識普及活動
- 世界快報:承平高速:匠心出好梁 承平“慧”制造(圖)
- “馬連道·茶·中國數(shù)據(jù)街”高質(zhì)量發(fā)展論壇開幕式暨2023全球數(shù)字經(jīng)濟(jì)大會西城分論壇成功舉辦_全球關(guān)注
- 公司的法人會承擔(dān)什么責(zé)任 環(huán)球今日報
- 天天觀天下!毒品泛濫愈演愈烈,美國禁毒為何失???
- 星空有約 | 觀賞正當(dāng)時!銀河真面目如何被揭開?
- 幼師沒錢打車提出“肉償”?警方:網(wǎng)絡(luò)黃謠,刑拘!
- 15項穩(wěn)就業(yè)!北京:招用離校2年內(nèi)未就業(yè)畢業(yè)生可享一次性補(bǔ)貼|精選
- 世界快報:每人懸賞100萬港元!香港警方通緝8名亂港分子
- 赤峰黃金:累計回購約373萬股 占比0.22% 今日視點
- 賽力斯表態(tài)稱會深化與華為合作 AITO問界將發(fā)布CARE服務(wù)戰(zhàn)略 每日訊息
- 可行性研究的內(nèi)容有哪些_可行性研究的內(nèi)容|每日關(guān)注
- 世界今亮點!美國財長耶倫本周訪華,中方有何進(jìn)一步期待?外交部回應(yīng)
- 數(shù)讀科創(chuàng)板IPO|晶亦精微:8英寸CMP設(shè)備已在境外批量銷售 為國內(nèi)唯一一家_當(dāng)前短訊
- 天天最新:6棟建筑順利驗收——中國一冶丘北項目再迎新進(jìn)展
- 文昌鋪前中心漁港項目防波堤沉箱安裝順利完成 當(dāng)前關(guān)注
- 新資訊:騎著自行車“跑”的王調(diào)
- 世界熱推薦:上海奉賢濱海海洋生態(tài)保護(hù)修復(fù)工程舉行開工儀式
- 世界快消息!輕工行業(yè):政策發(fā)布提振家居預(yù)期 關(guān)注低估值龍頭彈性空間
- 世界今亮點!山水家園 甜蜜屏邊丨臘哈村:“三好村”的秘訣
- 吉電股份:吉電(濰坊)新能源科技有限公司擬投資建設(shè)山東濰坊風(fēng)光儲多能互補(bǔ)試點項目首批第一期200兆瓦光伏項目
- 每日視點!奧特曼:布萊澤線下皮套照,有著一雙無比犀利的眼神,看起來真的是十分地帥氣
- 世界觀察:《無職轉(zhuǎn)生》第二季開播。魯?shù)蠒簳r不在,只有白媽媽獨自冒險,遇上了變態(tài)二公主。
- 當(dāng)年堪比日本棋魂國產(chǎn)動畫,圍棋少年,大家還記得嗎?
- 最新!華彬紅牛有關(guān)“50年協(xié)議”的訴訟請求被全部駁回
- 焦點速看:上海交運(yùn)總公司電話號碼查詢及聯(lián)系方式
- 1 世界快報:承平高速:匠心出好梁 承平“慧”制造(圖)
- 2 “馬連道·茶·中國數(shù)據(jù)街”高質(zhì)量發(fā)展論壇開幕式暨2023全球數(shù)字經(jīng)濟(jì)大會西城分論壇成功舉辦_全球關(guān)注
- 3 4 星空有約 | 觀賞正當(dāng)時!銀河真面目如何被揭開?
- 5 幼師沒錢打車提出“肉償”?警方:網(wǎng)絡(luò)黃謠,刑拘!
- 6 15項穩(wěn)就業(yè)!北京:招用離校2年內(nèi)未就業(yè)畢業(yè)生可享一次性補(bǔ)貼|精選
- 7 世界快報:每人懸賞100萬港元!香港警方通緝8名亂港分子
- 8 數(shù)讀科創(chuàng)板IPO|晶亦精微:8英寸CMP設(shè)備已在境外批量銷售 為國內(nèi)唯一一家_當(dāng)前短訊
- 9 每日視點!奧特曼:布萊澤線下皮套照,有著一雙無比犀利的眼神,看起來真的是十分地帥氣
- 10 世界觀察:《無職轉(zhuǎn)生》第二季開播。魯?shù)蠒簳r不在,只有白媽媽獨自冒險,遇上了變態(tài)二公主。