OpenAI宮斗前傳?研究人員致信董事會(huì),一項(xiàng)強(qiáng)大的AI發(fā)現(xiàn)可能威脅人類

2023-11-23 16:49:29

經(jīng)歷了反轉(zhuǎn)再反轉(zhuǎn)的OpenAI“政變大戲”落幕,不過(guò)OpenAI內(nèi)部并沒(méi)有因此迎來(lái)平靜。

當(dāng)?shù)貢r(shí)間11月22日,在CEO山姆·奧特曼(Sam Altman)被解雇前,幾名研究人員向OpenAI董事會(huì)致信,警告稱一項(xiàng)強(qiáng)大的AI(人工智能)發(fā)現(xiàn)可能威脅到人類。

消息人士稱,這封警告信和其中的AI算法正是奧特曼被罷免的催化劑,因?yàn)樗荗penAI內(nèi)力推AGI(生成式人工智能)的典型代表。此外,這封信不僅讓董事會(huì)對(duì)AI的發(fā)展產(chǎn)生了擔(dān)憂,還對(duì)奧特曼本人產(chǎn)生了不滿。不過(guò)信件的具體內(nèi)容還不得而知。

由于在AI技術(shù)和安全上無(wú)法與董事會(huì)部分成員達(dá)成一致,奧特曼突遭罷免,并引發(fā)了一系列動(dòng)蕩。在700多名員工以辭職并加入微軟向公司發(fā)出威脅后,奧特曼已經(jīng)凱旋。

當(dāng)?shù)貢r(shí)間11月21日半夜, OpenAI宣布,已經(jīng)原則上達(dá)成協(xié)議,前CEO奧特曼將重返公司擔(dān)任CEO,以及“組建由董事會(huì)主席Bret Taylor、Larry Summers和Adam D'Angelo組成的新董事會(huì)”。

此外,消息人士透露,在OpenAI任職多年的首席技術(shù)官米拉·穆拉蒂(Mira Murati)周三告訴員工,一封關(guān)于Q*(發(fā)音為 Q-Star)AI取得突破的信件促使董事會(huì)采取了解雇行動(dòng)。

OpenAI在Q*上取得的進(jìn)展,讓部分公司內(nèi)部人士相信,這可能是他們找到“超級(jí)智能(即AGI)”的突破。OpenAI將AGI定義為“比人類更聰明的AI系統(tǒng)”。

這名消息人士稱,雖然Q*的數(shù)學(xué)成績(jī)只是小學(xué)生的水平,但在此類測(cè)試中取得的良好表現(xiàn)讓研究人員對(duì)其未來(lái)的成功非常樂(lè)觀。

(稿件來(lái)源:澎湃新聞)

責(zé)任編輯:陳科辰

掃一掃分享本頁(yè)