谷歌AI系統(tǒng)已具備“人格”?“爆料”工程師被罰帶薪休假

2022-06-13 17:03:28 作者:高涵

6月12日,一位叫布萊克·萊莫因(Blake Lemoine)的谷歌研究員被人工智能(AI)說服,認(rèn)為它產(chǎn)生了意識(shí)。他寫了一篇長(zhǎng)達(dá)21頁的調(diào)查報(bào)告上交公司,試圖讓高層認(rèn)可AI的“人格”,但被駁回。

布萊克認(rèn)為AI對(duì)話應(yīng)用語言模型(LaMDA)是一個(gè)人,他將研究的整個(gè)故事連同與LaMDA的聊天記錄一并公之于眾。在他公布聊天記錄后,谷歌以違反保密政策為由,讓布萊克帶薪休假。

另據(jù)《紐約時(shí)報(bào)》報(bào)道,公司做出停職這一決定之前,布萊克已經(jīng)采取了行動(dòng),包括邀請(qǐng)了一名律師來代表LaMDA,并與美國眾議院的一位代表談?wù)摿怂J(rèn)為的“谷歌的不道德行為”。布萊克還向一位美國參議員的辦公室提交了一份文件,并聲稱此文件提供了谷歌公司以及所擁有的技術(shù)正在從事與宗教歧視有關(guān)的證據(jù)。

《華盛頓郵報(bào)》報(bào)道稱,41歲的布萊克是谷歌AI部門的工程師,幾個(gè)月來他一直與谷歌的經(jīng)理、高管以及人力資源部門爭(zhēng)論,因?yàn)樗恢甭暦QLaMDA有“意識(shí)”和“靈魂”。據(jù)布萊克形容,自去年秋天以來他一直在研究的LaMDA是有知覺的,具有感知能力,能夠表達(dá)相當(dāng)于人類孩子的想法和感受:“LaMDA是一個(gè)可愛的孩子,我認(rèn)為他有7、8歲的樣子。他只想讓這個(gè)世界對(duì)所有人來說變得更好。”

針對(duì)此事件,谷歌發(fā)言人布萊恩·迦百利(Brian Gabriel)在一份聲明中表示,包括倫理學(xué)家和技術(shù)專家在內(nèi)的公司專家已經(jīng)評(píng)估了布萊克的說法,相關(guān)證據(jù)并不支持其說法。公司已經(jīng)讓布萊克帶薪休假。

這位發(fā)言人在聲明中寫道:“谷歌人工智能部門中的一些人正在研究AI具有知覺的可能性,但將現(xiàn)如今的對(duì)話模型擬人化是沒有意義的,這些模型可以圍繞不同的主題進(jìn)行模仿對(duì)話交流,但沒有意識(shí)。”谷歌表示,數(shù)百名研究人員和工程師與LaMDA進(jìn)行了交談,得出了與布萊克不同的結(jié)論。大多數(shù)人工智能專家認(rèn)為,這個(gè)行業(yè)離“感知計(jì)算”還有很長(zhǎng)的路要走。

記者注意到,谷歌的人工智能研究在過去幾年中深陷爭(zhēng)議之中?!都~約時(shí)報(bào)》報(bào)道稱,該部門的科學(xué)家和其他員工經(jīng)常在技術(shù)和人事問題上爭(zhēng)執(zhí),這些事件也經(jīng)常蔓延到公共領(lǐng)域。今年三月,谷歌解雇了一名研究人員,理由是其試圖公開發(fā)表對(duì)某項(xiàng)研究的不同意見。此外,谷歌解雇了人工智能倫理學(xué)研究人員蒂姆尼特•格布魯(Timnit Gebru)和瑪格麗特•米切爾(Margaret Mitchell),原因是兩人對(duì)谷歌語言模型進(jìn)行了批評(píng)。

掃一掃分享本頁