警惕AI大模型過度采集用戶隱私信息

2023-11-20 10:27:29 來源:人民網(wǎng) 作者:江德斌

20231120103053565-39-17dfc.jpg

近日有網(wǎng)友發(fā)現(xiàn),WPS在其“隱私政策”中提到,“我們將對您主動上傳的文檔材料,在采取脫敏處理后作為AI訓(xùn)練的基礎(chǔ)材料使用”。11月18日,WPS官方微博做出回應(yīng),在向用戶致歉的同時(shí),承諾用戶文檔不會被用于AI訓(xùn)練目的。

此前,WPS 發(fā)布AI公測,聲稱可以幫助用戶潤色、續(xù)寫、擴(kuò)充文檔,寫表格公式,生成PPT等,有助于提升用戶學(xué)習(xí)、辦公效率。但是,WPS在隱私政策方面的越界行為,違反采集數(shù)據(jù)信息的“最小化原則”,涉嫌不當(dāng)獲取用戶隱私信息。在廣大用戶和社會輿論的質(zhì)疑下,WPS被迫公開致歉,并修改相關(guān)條款,也算是懸崖勒馬了。

然而,這件事引發(fā)的爭議,并未就此終結(jié)。目前,AI處于炙手可熱的發(fā)展階段,各大科技公司發(fā)布的AI大模型,已經(jīng)超過了上百個(gè),這些AI大模型在各個(gè)領(lǐng)域均需要海量數(shù)據(jù)用于訓(xùn)練,而數(shù)據(jù)來源的合法性、持續(xù)性,就成了問題。

早在今年7月,一款驟然爆火的“妙鴨相機(jī)”,亦曾在“用戶協(xié)議”中,聲稱可將用戶信息以“任何形式任何范圍使用”,在引起網(wǎng)友和輿論批評后,刪除了相關(guān)條款??梢?,隨著AI技術(shù)的落地應(yīng)用,一些科技公司急于市場競爭,試圖使用用戶隱私信息,不可避免地會觸及相關(guān)法律紅線,埋下信息安全隱患。

過度采集用戶隱私信息,可能對用戶的個(gè)人安全和財(cái)產(chǎn)安全造成威脅。一旦這些隱私信息遭到非法泄露,被不法分子獲取,就可能利用信息實(shí)施詐騙、盜用身份等違法行為,給用戶帶來巨大的財(cái)產(chǎn)損失。因此,監(jiān)管部門要提高警惕,及早采取措施打擊亂象,防范AI大模型過度采集、濫用個(gè)人隱私信息數(shù)據(jù)。

國家網(wǎng)信辦等多部門發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》明確,應(yīng)當(dāng)依法開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動,使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型;涉及個(gè)人信息的,應(yīng)當(dāng)取得個(gè)人同意或者符合法律、行政法規(guī)規(guī)定的其他情形。各大科技公司要主動遵守相關(guān)規(guī)定,做AI訓(xùn)練時(shí),應(yīng)嚴(yán)格遵循“最小化原則”,不得跨越紅線。

(來源:深圳特區(qū)報(bào))

責(zé)任編輯:陳平

掃一掃分享本頁