事涉2億港元，香港最大AI詐騙案被披露！

近日，據(jù)香港媒體報道，中國香港警方發(fā)現(xiàn)有詐騙分子利用人工智能深度偽造技術(shù)，通過公司的YouTube視頻和從其他公開渠道獲取的媒體資料，成功地仿造了英國公司高層管理人員的形象和聲音，在網(wǎng)上會議中冒充多名人士，騙取財務(wù)職員2億港元。

AI變臉冒充CFO，香港一公司被騙2億港元

據(jù)香港媒體報道，中國香港近期發(fā)生了一起規(guī)模龐大的AI“深偽”詐騙案，引起了廣泛關(guān)注。這起案件涉及的金額達(dá)2億港元，不僅是香港歷史上損失最慘重的“變臉”案例，而且也是首次涉及AI“多人變臉”的詐騙案。

據(jù)介紹，報案人為一間跨國公司香港分行職員，指上月中收到該公司英國總部首席財務(wù)官的信息，聲稱要進(jìn)行機(jī)密交易，分別邀請該公司數(shù)名財務(wù)職員進(jìn)行多人的視頻會議。由于對方各人在會議內(nèi)均顯示了與現(xiàn)實相同的容貌，職員不虞有詐，前后轉(zhuǎn)賬15次，合共2億港元到5個本地銀行戶口，其后向總部查詢方知受騙。

根據(jù)目前掌握的信息，詐騙者通過公司的YouTube視頻和從其他公開渠道獲取的媒體資料，成功地仿造了英國公司高層管理人員的形象和聲音，再利用Deepfake（深度偽造）技術(shù)制作偽冒視頻，造成多人參與視頻會議的效果，然而會議內(nèi)只有參加的職員一人為“真人”。

由于是預(yù)制視頻，會內(nèi)主要以上司下屬的關(guān)系向職員下達(dá)命令，其間職員沒有機(jī)會與會議的參加者進(jìn)行交流，整個視頻會議只要求職員作一次簡短的自我介紹，其后騙徒以借口完結(jié)會議，并在即時通訊軟件繼續(xù)下達(dá)命令。

目前，香港警方表示，整個案件還在進(jìn)一步調(diào)查之中，還沒有逮捕任何嫌疑人。

深度偽造技術(shù)何以以假亂真？

上述案件中提到的Deepfake（深度偽造）技術(shù)是什么呢？

Deepfake（深度偽造）是英文“Deep learning”（深度學(xué)習(xí)）和“Fake”（偽造）的混成詞，指利用深度學(xué)習(xí)技術(shù)生成合成圖像、音頻或視頻的技術(shù)。由于公眾人物的視頻、音頻、圖片資料的公開性，為AI訓(xùn)練提供了大量素材，因此名人經(jīng)常成為AI造假的受害者。

Deepfake的實現(xiàn)原理主要依賴于深度神經(jīng)網(wǎng)絡(luò)，特別是生成對抗網(wǎng)絡(luò)（GAN）。通過訓(xùn)練大量的面部圖像數(shù)據(jù)，Deepfake模型能夠?qū)W習(xí)到面部特征之間的潛在關(guān)系，并生成與真實面部特征高度相似的虛假面部特征。

目前，Deepfake技術(shù)的應(yīng)用較為廣泛，可以用于電影制作、視頻編輯、虛擬現(xiàn)實等領(lǐng)域，而該技術(shù)的急速發(fā)展對維護(hù)網(wǎng)絡(luò)安全帶來挑戰(zhàn)。

香港專業(yè)進(jìn)修學(xué)校協(xié)理副校長林森表示，隨著人工智能生成引擎的種類愈來愈多，“深偽技術(shù)”持續(xù)進(jìn)化，辨別真?zhèn)蔚碾y度也會越來越大，加上該技術(shù)門檻不斷降低，將誘使更多不法分子利用“深偽技術(shù)”進(jìn)行詐騙、發(fā)布失實資訊、制造社會輿論等?！吧顐巍眱?nèi)容帶來最大的挑戰(zhàn)是難以利用肉眼和耳朵識別。雖然人工智能生成的影像或許仍有瑕疵，例如光線和陰影可能不太自然，影像邊緣模糊，但當(dāng)大部分公眾以細(xì)小的手機(jī)熒幕觀看影像時，這些細(xì)節(jié)便不易被察覺。

香港科技罪案同比增長53%

事實上，該案例已不是孤例。

根據(jù)中國香港警方最新數(shù)據(jù)，去年1至11月，香港科技罪案激增至近3.2萬起，占所有罪案的四成，同比增53%，涉案金額超50億港元，同比增72%。其中，一電郵詐騙案涉款最高，達(dá)7820萬港元。網(wǎng)絡(luò)投資詐騙增加顯著，共4703起，是前年同期的1.8倍，占總科技罪案的15%，涉及金額達(dá)30億港元。

香港網(wǎng)絡(luò)安全及科技罪案調(diào)查科網(wǎng)絡(luò)安全組署理高級警司陳純青表示，利用人工智能“深度偽造”的欺詐手法，與傳統(tǒng)詐騙手法其實如出一轍，只是利用不同手段以取得受害人信任進(jìn)行詐騙，最終目的主要是誘騙受害人將款項轉(zhuǎn)賬到騙徒指定戶口。

陳純青強(qiáng)調(diào)，雖然科技發(fā)展一日千里，只要市民時刻保持警惕，養(yǎng)成一個高防騙意識的習(xí)慣，對任何社交平臺或通訊軟件所收到的信息，也要有一個查證真?zhèn)蔚囊庾R及必須要有行動，謹(jǐn)記在人工智能“深偽技術(shù)”下，網(wǎng)上已經(jīng)“眼見不一定為實，有圖有片亦不一定是真相”。

此外，還需留意騙徒利用深度偽造技術(shù)制作新聞報道假視頻推介投資活動，引誘市民參與虛假投資計劃。日前，騙徒為增加虛假投資計劃的可信性，利用名人的知名度及影響力造假推介，不少政商名人被騙術(shù)用深度偽造技術(shù)偽冒，包括特區(qū)行政長官李家超、香港富商李嘉誠和Tesla行政總裁馬斯克。

中國香港特區(qū)政府于1月24日嚴(yán)正澄清，指有關(guān)影片全屬偽造，行政長官從未作出相關(guān)言論，呼吁市民提高警惕、切勿誤信，并強(qiáng)烈譴責(zé)不法之徒的詐騙行為。事件已轉(zhuǎn)交警方跟進(jìn)。

（來源：券商中國）