隨著AI技術的發(fā)展，AI合成應用門檻一再降低，利用AI深度合成偽造音視頻，成為威脅網(wǎng)絡安全的典型案例。

二級市場上，網(wǎng)絡安全上市公司股價近期攀升。自1月17日以來，截至2月17日收盤，天融信科技集團股份有限公司（以下簡稱“天融信”）、任子行網(wǎng)絡技術股份有限公司等股價區(qū)間漲幅均超30%。

廣州眺遠營銷咨詢管理有限公司總監(jiān)高承飛表示：“人工智能技術飛速發(fā)展帶來便捷與創(chuàng)新的同時，也給網(wǎng)絡空間帶來了新的安全挑戰(zhàn)。合成音視頻的深度偽造、誤導性信息的傳播等問題頻發(fā)，使個人、企業(yè)和政府對網(wǎng)絡安全的需求都大幅增加，同時也對網(wǎng)絡安全技術提出更高要求。需要各方共同努力，多管齊下，筑牢網(wǎng)絡安全‘防火墻’?！?/p>

合成音視頻帶來隱患

“當前，有很多開源的軟件和工具都可以實現(xiàn)換聲換臉的效果，可以供網(wǎng)民自由下載，在自己的電腦上進行安裝和使用?！碧烊谛鸥笨偛?、中國網(wǎng)絡空間安全協(xié)會人工智能安全治理專業(yè)委員會專家薛智慧表示。

若AI合成的他人肖像未經(jīng)當事人同意，且該合成內(nèi)容被用于商業(yè)或公開場合傳播，可能構成侵犯肖像權。AI合成音視頻可能被不法分子利用，還將成為犯罪的“幫兇”。近年來，我國對人工智能生成合成行為的法律法規(guī)不斷完善，為網(wǎng)絡安全和生成式人工智能的健康發(fā)展保駕護航。2022年11月份，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合公布的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》明確，任何組織和個人不得利用深度合成服務制作、復制、發(fā)布、傳播法律、行政法規(guī)禁止的信息。

北京市京師律師事務所合伙人盧鼎亮表示：“目前，針對AI克隆技術等新興領域，還需要進一步細化相關法律條款，明確侵權行為的定義和責任，加強執(zhí)法力度，形成有效威懾。網(wǎng)絡安全是一個系統(tǒng)性工程，需要政府、企業(yè)等在政策、法律、治理、技術等層面共同發(fā)力，包括引導資源向網(wǎng)絡安全領域傾斜、加大網(wǎng)絡安全方面投入等?！?/p>

上市公司加碼布局

根據(jù)中國網(wǎng)絡安全產(chǎn)業(yè)聯(lián)盟的統(tǒng)計，2022年我國網(wǎng)絡安全市場規(guī)模約為633億元，2025年有望超過800億元。A股多家上市公司深耕網(wǎng)絡安全市場，包括：天融信、杭州迪普科技股份有限公司（以下簡稱“迪普科技”）、奇安信科技集團股份有限公司、三六零安全科技股份有限公司、深信服科技股份有限公司等。面對AI發(fā)展帶來的網(wǎng)絡安全市場擴容，這些上市公司積極加碼布局，并且高度重視AI技術在網(wǎng)絡安全中的運用，利用AI技術來檢測跟對抗AI。

天融信于2014年成立AI研究團隊，開啟網(wǎng)絡安全領域的機器學習、深度學習、自然語言處理等人工智能技術研究和應用。公司在2023年發(fā)布了自主研發(fā)的天問大模型，并陸續(xù)發(fā)布了基于天問大模型的產(chǎn)品小天、云上小天、天問大模型系統(tǒng)等AI智能體，應用于公司防火墻、數(shù)據(jù)庫審計與防護、漏掃等安全產(chǎn)品中。天融信方面表示：“公司將持續(xù)優(yōu)化AI技術在網(wǎng)絡安全領域中的應用，持續(xù)研發(fā)AI系統(tǒng)自身以及AI算法、數(shù)據(jù)、模型的安全問題的解決方案，并且與合作伙伴共同推進量子加密技術為AI應用提供安全保障?！?/p>

迪普科技積極探索“AI+安全”創(chuàng)新應用，強化AI技術對產(chǎn)品體系的賦能。公司基于不同的安全業(yè)務場景深度融合了多個通用大模型在網(wǎng)絡安全領域的能力，經(jīng)過增量預訓練和調(diào)優(yōu)，應用于安全運營、數(shù)據(jù)分類分級和敏感數(shù)據(jù)識別等場景，提升產(chǎn)品體系的核心能力，持續(xù)為用戶的安全保駕護航。

深度科技研究院院長張孝榮表示：“AI正在推動網(wǎng)絡安全產(chǎn)業(yè)變革。一方面，大模型產(chǎn)品正在增多，AI可能被不法分子用來進行網(wǎng)絡攻擊，因此，針對AI的網(wǎng)絡安全產(chǎn)品及服務將成為行業(yè)的主要競爭領域。另一方面，深度整合AI技術，能夠大幅提升網(wǎng)絡安全產(chǎn)品的水平，使其能夠更快速、更準確地識別并應對各種網(wǎng)絡攻擊。利用AI技術不斷創(chuàng)新和優(yōu)化安全解決方案的企業(yè)，有望在未來的網(wǎng)絡安全市場中占據(jù)領先地位?！?/p>

（來源：證券日報網(wǎng)）