近日，平安證券發(fā)布研報(bào)稱，在2024世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議（以下簡(jiǎn)稱“WAIC2024”）上，中國(guó)AI（人工智能）企業(yè)不僅在技術(shù)研發(fā)方面取得了顯著成效，還在應(yīng)用落地、生態(tài)構(gòu)建等方面展現(xiàn)出強(qiáng)勁勢(shì)頭。中國(guó)AI企業(yè)在多個(gè)領(lǐng)域?qū)崿F(xiàn)了突破，為全球AI治理和應(yīng)用提供了寶貴的中國(guó)方案。

今年的WAIC2024，AI治理被置于前所未有的高度，而AI安全正是其中的重中之重。

“AI與安全，是數(shù)字化轉(zhuǎn)型與可持續(xù)發(fā)展的必修課。”7月6日，奇安信董事長(zhǎng)齊向東在大會(huì)相關(guān)論壇上表示，要積極構(gòu)建高可靠人工智能安全體系，著力為用戶提供有效的安全防護(hù)，既要用AI去驅(qū)動(dòng)安全，又要做好AI自身安全，護(hù)航數(shù)字化轉(zhuǎn)型與可持續(xù)發(fā)展。

“AI作為引領(lǐng)未來(lái)的戰(zhàn)略新興技術(shù)，已成為發(fā)展新質(zhì)生產(chǎn)力、推動(dòng)科技革命和產(chǎn)業(yè)升級(jí)的核心引擎?！敝袊?guó)數(shù)實(shí)融合50人論壇智庫(kù)專家洪勇表示，隨著AI的高速發(fā)展，尤其是生成式AI的突破，其復(fù)雜效應(yīng)也不斷顯現(xiàn)，既釋放巨大的技術(shù)紅利，也衍生出超越以往范疇的挑戰(zhàn)，涉及數(shù)據(jù)安全、倫理治理、算法歧視、能源環(huán)境、數(shù)字鴻溝等問題。

AI安全受關(guān)注

技術(shù)發(fā)展，協(xié)同共治。面對(duì)挑戰(zhàn)，全球AI安全治理的進(jìn)程正加速推進(jìn)，已形成各國(guó)政府主導(dǎo)、國(guó)際組織積極推進(jìn)、企業(yè)協(xié)同治理的多方參與格局。全球AI界正積極平衡“發(fā)展”與“安全”這一體兩面，推動(dòng)AI“兩翼齊飛”。

近年來(lái)，我國(guó)先后出臺(tái)《生成式人工智能服務(wù)管理暫行辦法》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等政策文件，構(gòu)建針對(duì)大模型的“雙備案系統(tǒng)”，推動(dòng)人工智能安全、健康、規(guī)范發(fā)展。今年3月份，全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化委員會(huì)發(fā)布《生成式人工智能服務(wù)安全基本要求》，對(duì)前述政策文件中的數(shù)據(jù)來(lái)源合法、內(nèi)容安全等合規(guī)要求的執(zhí)行規(guī)則進(jìn)行了細(xì)化，為生成式人工智能服務(wù)提供者在實(shí)踐中開展安全評(píng)估提供了有效路徑。

AI安全相關(guān)企業(yè)也抓住產(chǎn)業(yè)發(fā)展黃金機(jī)遇，乘勢(shì)而上。聚焦國(guó)內(nèi)，深信服、天融信、啟明星辰、奇安信等公司均已發(fā)布安全大模型產(chǎn)品。騰訊、螞蟻集團(tuán)等也積極構(gòu)建AI安全平臺(tái)。放眼全球，微軟在今年5月份已正式商用了MicrosoftCopilotforSecurity（一種基于生成式AI的安全產(chǎn)品），旨在“幫助用戶以機(jī)器的速度進(jìn)行防御”。谷歌去年也發(fā)布了網(wǎng)絡(luò)安全專有大模型，并應(yīng)用到了云安全能力中心。

據(jù)TheInsightPartner預(yù)測(cè)，2030年，全球AI安全市場(chǎng)規(guī)模將達(dá)到710億美元，未來(lái)十年復(fù)合增速將達(dá)到29%。艾媒咨詢數(shù)據(jù)顯示，預(yù)計(jì)到2027年，我國(guó)網(wǎng)絡(luò)安全市場(chǎng)規(guī)模有望增至884.4億元人民幣。

產(chǎn)業(yè)鏈公司在行動(dòng)

中金公司認(rèn)為，AI的安全風(fēng)險(xiǎn)涉及多個(gè)維度。AI體系安全是基礎(chǔ)，包括軟件、硬件等基礎(chǔ)設(shè)施的供應(yīng)安全，以龐大市場(chǎng)為基礎(chǔ)的需求安全，應(yīng)用部署安全等，需確保AI生態(tài)系統(tǒng)的獨(dú)立性、完整性和抗攻擊能力。數(shù)據(jù)安全是AI系統(tǒng)能否有效、高質(zhì)量運(yùn)行的關(guān)鍵。AI應(yīng)用中廣泛出現(xiàn)的錯(cuò)誤與虛假信息、“信息繭房”、隱私泄露等問題也會(huì)對(duì)社會(huì)安全帶來(lái)挑戰(zhàn)。

針對(duì)上述問題，產(chǎn)業(yè)鏈上市公司正在行動(dòng)。

“公司打造了以‘?dāng)?shù)據(jù)+AI’為核心，以‘應(yīng)用場(chǎng)景’為依托的系列產(chǎn)品，形成了七大解決方案及產(chǎn)品線，其中就包括風(fēng)險(xiǎn)與合規(guī)產(chǎn)品線，涉及智能風(fēng)控、監(jiān)管報(bào)送等。公司信創(chuàng)及安全類產(chǎn)品也有利于降低信息安全風(fēng)險(xiǎn)。”法本信息相關(guān)人士表示。

永信至誠(chéng)在投資者互動(dòng)平臺(tái)上稱，公司發(fā)布AI大模型安全測(cè)評(píng)“數(shù)字風(fēng)洞”平臺(tái)，為AI大模型的持續(xù)演進(jìn)和應(yīng)用提供堅(jiān)實(shí)的安全保障。在內(nèi)容安全測(cè)評(píng)方面，平臺(tái)借助檢測(cè)插件，形成檢測(cè)模板、檢測(cè)場(chǎng)景分類和測(cè)評(píng)數(shù)據(jù)集，測(cè)評(píng)出各類安全風(fēng)險(xiǎn)；在系統(tǒng)安全測(cè)評(píng)方面，平臺(tái)對(duì)目標(biāo)系統(tǒng)進(jìn)行深入的安全評(píng)估，幫助AI大模型系統(tǒng)迅速發(fā)現(xiàn)潛在的安全漏洞。

“除了在技術(shù)上推動(dòng)AI系統(tǒng)的可解釋性和可控性外，由于AI問題往往跨越國(guó)界，各方還應(yīng)促進(jìn)國(guó)際合作，建立全球共識(shí)，共享最佳實(shí)踐?！焙橛氯缡钦f。

本屆WAIC2024還發(fā)布了《人工智能全球治理上海宣言》，倡導(dǎo)共推發(fā)展、共護(hù)安全、共商治理、共匯民智、共享成果。呼吁各國(guó)加強(qiáng)交流和對(duì)話，推動(dòng)人工智能更好地造福人類。

（來(lái)源：證券日?qǐng)?bào)）