微軟宣布開(kāi)源Deep Speed Chat,可將訓(xùn)練速度提升15倍以上

2023-04-13 16:53:06 作者:畢陸名

人人擁有ChatGPT的時(shí)代來(lái)臨了。

4月12日,微軟(MSFT)宣布開(kāi)源Deep Speed Chat,幫助用戶(hù)訓(xùn)練類(lèi)ChatGPT等大語(yǔ)言模型。

據(jù)悉,Deep Speed Chat基于微軟Deep Speed深度學(xué)習(xí)優(yōu)化庫(kù)開(kāi)發(fā),具備訓(xùn)練、強(qiáng)化推理等功能,使用RLHF(人工反饋機(jī)制的強(qiáng)化學(xué)習(xí))技術(shù),可將訓(xùn)練速度提升15倍以上,并大幅降低成本。

截至美股收盤(pán),微軟報(bào)收283.49美元,微漲0.23%,總市值2.110萬(wàn)億美元。

微軟開(kāi)源Deep Speed Chat

4月12日,微軟宣布開(kāi)源了Deep Speed Chat,幫助用戶(hù)輕松訓(xùn)練類(lèi)ChatGPT等大語(yǔ)言模型,使得人人都能擁有自己的ChatGPT。

據(jù)悉,Deep Speed Chat是基于微軟Deep Speed深度學(xué)習(xí)優(yōu)化庫(kù)開(kāi)發(fā)而成,具備訓(xùn)練、強(qiáng)化推理等功能,還使用了RLHF(人工反饋機(jī)制的強(qiáng)化學(xué)習(xí))技術(shù),可將訓(xùn)練速度提升15倍以上,成本卻大幅度降低。例如,一個(gè)130億參數(shù)的類(lèi)ChatGPT模型,只需1.25小時(shí)就能完成訓(xùn)練。

簡(jiǎn)單來(lái)說(shuō),用戶(hù)通過(guò)Deep Speed Chat提供的“傻瓜式”操作,能以最短的時(shí)間、最高效的成本訓(xùn)練類(lèi)ChatGPT大語(yǔ)言模型,這標(biāo)志著一個(gè)人手一個(gè)ChatGPT的時(shí)代要來(lái)了。

ChatGPT只用了幾個(gè)月的時(shí)間便席卷全球,成為史上用戶(hù)增長(zhǎng)速度最快的消費(fèi)級(jí)應(yīng)用。很多企業(yè)、個(gè)人用戶(hù)紛紛想?yún)⑴c到這場(chǎng)AI技術(shù)變革中,但由于龐大的資源、資金投入只能望而卻步?,F(xiàn)在,通過(guò)Deep Speed Chat解決資源、算法等難題,輕松、高效的訓(xùn)練數(shù)千億參數(shù)的最先進(jìn)的類(lèi)ChatGPT模型。

ChatGPT模型的訓(xùn)練是基于InstructGPT論文中的RLHF方式,這使得現(xiàn)有深度學(xué)習(xí)系統(tǒng)在訓(xùn)練類(lèi)ChatGPT模型時(shí)存在種種局限。而如今,通過(guò)Deep Speed Chat可以突破這些訓(xùn)練瓶頸,達(dá)到最佳效果。Deep Speed Chat擁有強(qiáng)化推理、RLHF模塊、RLHF系統(tǒng)三大核心功能。

微軟此次開(kāi)源Deep Speed Chat就像當(dāng)年的互聯(lián)網(wǎng),為了提升發(fā)展速率降低了臺(tái)式機(jī)的價(jià)格,使得普通用戶(hù)也能擁有自己的電腦。

只有參與的用戶(hù)多了,整個(gè)行業(yè)生態(tài)才能快速壯大發(fā)展,所以,微軟此次開(kāi)源對(duì)整個(gè)ChatGPT生態(tài)發(fā)展起到了至關(guān)重要的推動(dòng)作用,使得人人都能擁有自己的ChatGPT。

不過(guò),目前,ChatGPT處于初級(jí)發(fā)展階段,存在安全隱患、數(shù)據(jù)隱私、道德等問(wèn)題。

美國(guó)考慮對(duì)ChatGPT等工具進(jìn)行審查

當(dāng)?shù)貢r(shí)間周三(4月12日),意大利數(shù)據(jù)保護(hù)局(Garante)提出了一系列聊天機(jī)器人ChatGPT在該國(guó)恢復(fù)使用的要求。在周三的聲明中,Garante對(duì)OpenA提出了一系列需要在本月底前滿足的具體要求,并表示,在解決監(jiān)管機(jī)構(gòu)的擔(dān)憂后,意大利當(dāng)局將暫停對(duì)OpenAI處理該國(guó)用戶(hù)數(shù)據(jù)的臨時(shí)限制令,OpenAl也將再次在意大利開(kāi)放。

然而,針對(duì)ChatGPT們的“圍剿”仍在繼續(xù)。據(jù)《華爾街日?qǐng)?bào)》4月11日?qǐng)?bào)道,由于人們?cè)絹?lái)越擔(dān)心生成式人工智能(AI)技術(shù)可能被用來(lái)進(jìn)行歧視或傳播有害信息,拜登政府已經(jīng)開(kāi)始研究是否需要對(duì)ChatGPT等人工智能工具進(jìn)行審查。

作為潛在監(jiān)管的第一步,美國(guó)商務(wù)部已經(jīng)于美東時(shí)間4月11日(周二)正式公開(kāi)征求意見(jiàn),就其所謂的問(wèn)責(zé)措施發(fā)表意見(jiàn),包括有潛在風(fēng)險(xiǎn)的新人工智能模型在發(fā)布前是否應(yīng)該通過(guò)認(rèn)證程序。

美國(guó)政府采取上述監(jiān)管行動(dòng)之際,新興人工智能工具的使用在過(guò)去幾個(gè)月大范圍風(fēng)靡,這些工具可以快速生產(chǎn)類(lèi)似人類(lèi)產(chǎn)出的文字、圖片和視頻等。一些分析師估計(jì),微軟支持的聊天機(jī)器人ChatGPT比歷史上任何消費(fèi)類(lèi)應(yīng)用程序的用戶(hù)增長(zhǎng)規(guī)模都更快。

美國(guó)國(guó)家電信和信息管理局(下稱(chēng)NTIA,美國(guó)商務(wù)部發(fā)布征求意見(jiàn)的機(jī)構(gòu))局長(zhǎng)Alan Davidson表示,“看到這些工具在相對(duì)早期就能發(fā)揮(如此強(qiáng)大的)作用,真是令人驚訝。我們知道,我們需要設(shè)置一些‘護(hù)欄’,以確保這些工具被負(fù)責(zé)任地使用。”

報(bào)道中還稱(chēng),行業(yè)和政府官員對(duì)一系列潛在的人工智能危害表示擔(dān)憂,包括利用該技術(shù)進(jìn)行犯罪或傳播虛假信息。美國(guó)參議員Michael Bennet上個(gè)月曾寫(xiě)信給幾家人工智能公司,詢(xún)問(wèn)在公共實(shí)驗(yàn)中聊天機(jī)器人向冒充年輕人的用戶(hù)提供有害建議的情況,兒童的安全也是他們最關(guān)心的問(wèn)題。

記者注意到,包括特斯拉CEO馬斯克和“人工智能教父”Geoffrey Hinton在內(nèi)的科技領(lǐng)袖最近也開(kāi)始呼吁暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)。GPT-4是OpenAI大約在一個(gè)月前發(fā)布的聊天機(jī)器人版本。這些科技大佬警告稱(chēng),OpenAI與Alphabet旗下谷歌等競(jìng)爭(zhēng)對(duì)手之間正在展開(kāi)AI“軍備競(jìng)賽”,但并未對(duì)潛在風(fēng)險(xiǎn)進(jìn)行充分的管理和規(guī)劃。

據(jù)悉,拜登上周在白宮也與一個(gè)科學(xué)家顧問(wèn)委員會(huì)討論了這個(gè)話題。當(dāng)一名記者問(wèn)及生成式人工智能技術(shù)是否危險(xiǎn)時(shí),拜登答道:“有可能。還有待觀察。”

據(jù)悉,這個(gè)委員會(huì)的成員包括了微軟和谷歌的代表,他們和洽談發(fā)布人工智能系統(tǒng)的公司表示,他們正在不斷更新安全“護(hù)欄”,如通過(guò)編程避免讓聊天機(jī)器人回答某些有害問(wèn)題。

前騰訊安全技術(shù)中心專(zhuān)家李鐵軍在接受記者采訪時(shí)指出,“目前各方面對(duì)(生成式)人工智能的擔(dān)憂比較多,美國(guó)方面以馬斯克為代表。這些人擔(dān)心AI的自我生長(zhǎng),可能突破人類(lèi)限制。如果真的突破,或許人類(lèi)干不過(guò)AI,后果難以評(píng)估。我也看了有關(guān)討論,一部分科學(xué)家確實(shí)有這方面的擔(dān)憂,已經(jīng)感覺(jué)像是《黑客帝國(guó)》里描述的東西了。”

記者還注意到,就在美國(guó)政府周二就生成式AI的潛在監(jiān)管公開(kāi)征求意見(jiàn)之前,中國(guó)的監(jiān)管機(jī)構(gòu)已經(jīng)對(duì)該技術(shù)進(jìn)行過(guò)一系列的表態(tài)。

北京時(shí)間4月11日(周二),國(guó)家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》公開(kāi)征求意見(jiàn)。其中提到,提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求,尊重社會(huì)公德、公序良俗。

4月10日,中國(guó)支付清算協(xié)會(huì)網(wǎng)站發(fā)布“關(guān)于支付行業(yè)從業(yè)人員謹(jǐn)慎使用ChatGPT等工具的倡議”。

掃一掃分享本頁(yè)