“每人貢獻(xiàn)2-4小時”!1000億美元的錯誤之后,谷歌CEO急眼了

2023-02-17 11:51:48 作者:蘭素英

上周,由于人工智能聊天工具Bard在展示環(huán)節(jié)中給出錯誤回答,谷歌的市值一夜蒸發(fā)超1000億美元。

這無疑給了這個已經(jīng)在人工智能領(lǐng)域深耕多年的科技巨頭狠狠的一巴掌。

據(jù)Business Insider,包括谷歌母公司Alphabet CEO桑達(dá)爾·皮查伊在內(nèi)的數(shù)名高管已經(jīng)開始著手讓谷歌員工對Bard進(jìn)行大量的測試,要求員工本周貢獻(xiàn)2~4小時,以完善Bard的回答內(nèi)容。

內(nèi)部人士表示,谷歌已于周二(2月14日)啟動了內(nèi)部測試。目前公司已經(jīng)有數(shù)以千計(jì)的內(nèi)部和外部測試者在使用這項(xiàng)服務(wù),并就Bard回答的質(zhì)量、安全性和“根基性”提交反饋。

CEO皮查伊:緊急行動,贏得下一代AI搜索大戰(zhàn)

Business Insider報道稱,谷歌母公司Alphabet CEO桑達(dá)爾·皮查伊美西時間2月15日(周三)發(fā)送了一份內(nèi)部備忘錄,要求谷歌員工本周貢獻(xiàn)2至4個小時,幫助該公司改善其人工智能聊天機(jī)器人Bard。

這封郵件稱,谷歌目前急需采取行動,贏得下一代AI搜索大戰(zhàn)。

皮查伊在這份備忘錄中寫道,“我知道這樣的時刻非常令人興奮,這是可以預(yù)料到的:底層技術(shù)正在迅速發(fā)展,潛力巨大。這將是一段漫長的旅程,對每個人來說都是如此。我們現(xiàn)在能做的最重要的事情就是專注于開發(fā)一款偉大的產(chǎn)品,并負(fù)責(zé)任地進(jìn)行開發(fā)。這就是為什么我們有成千上萬的外部和內(nèi)部測試人員在測試Bard在真實(shí)用戶聊天場景中的質(zhì)量、安全性和基本反應(yīng)。讓我們擁抱挑戰(zhàn),不斷迭代,包括用戶和開發(fā)人員。”

“請記住,我們一些最成功的產(chǎn)品并不是第一個推向市場。這些產(chǎn)品受歡迎的原因是解決了重要的用戶需求,并建立在深刻的技術(shù)洞察力之上。隨著時間的推移,我們贏得了用戶的信任,也有越來越多的用戶開始依賴我們的產(chǎn)品。”皮查伊繼續(xù)寫道。

“人工智能已經(jīng)經(jīng)歷了一輪輪的冬去春來,如今它又開始綻放。作為一家人工智能至上的公司,我們多年來一直在努力實(shí)現(xiàn)這一目標(biāo),并為此做好了準(zhǔn)備。讓我們專注于為用戶提供前沿的體驗(yàn)。”皮查伊總結(jié)道。

谷歌上周演示了其人工智能聊天工具Bard,但在回答一個關(guān)于詹姆斯·韋伯太空望遠(yuǎn)鏡的問題時,Bard給出了錯誤回答,導(dǎo)致谷歌聲譽(yù)受損。

這個錯誤回答的代價還不止于此。外界發(fā)現(xiàn)這一錯誤后,谷歌股價立即暴跌,一個交易日市值蒸發(fā)超1000億美元。

另外,記者注意到,谷歌過去一年也曾因?yàn)槠銩I項(xiàng)目遇到過一些內(nèi)部動蕩,因?yàn)椴糠謫T工擔(dān)心這項(xiàng)技術(shù)尚未做好準(zhǔn)備,可能傳播偏見和虛假信息。不過,谷歌也有自己的優(yōu)勢,那就是數(shù)據(jù)和用戶反饋,無疑可以幫助公司完善其AI系統(tǒng)的回答效果。

案例教學(xué)最佳,有貢獻(xiàn)員工將獲特殊徽章

除了CEO皮查伊外,據(jù)CNBC,谷歌負(fù)責(zé)搜索的副總裁Prabhakar Raghavan周三也在一封電子郵件中要求員工確保Bard在以后的回答中給出正確的答案。

CNBC看到的這份郵件顯示,里面包含“應(yīng)做事項(xiàng)(Do's)”和“禁忌事項(xiàng)(Don'ts)”的頁面鏈接,指示員工如何對Bard進(jìn)行測試并修正錯誤的答案。郵件同時稱,“Bard通過案例學(xué)習(xí)效果最好,所以花時間深思熟慮地改寫答案,將大大有助于我們改進(jìn)Bard的模式。

Prabhakar Raghavan也對皮查伊在上述備忘錄中的觀點(diǎn)表示同意,并稱“(人工智能聊天機(jī)器人)是振奮人心的技術(shù),但仍處于早期階段。我們感到有很大的責(zé)任把它(指Bard)做好,你的參與和付出將有助于加速模型的訓(xùn)練,并測試其負(fù)載能力。

據(jù)CNBC報道,在頁面鏈接的頂部,谷歌還為參與測試的員工提供了“指導(dǎo)Bard前”需要考慮的一些問題。

在“應(yīng)做事項(xiàng)”部分,谷歌指示員工應(yīng)讓Bard給出“有禮貌、隨和并且平易近人”的回答。此外,該指示還要求員工應(yīng)該讓Bard用“第一人稱”,并保持“無偏見且中立的語氣。”

在“禁忌事項(xiàng)”部分,谷歌要求員工讓Bard的回答不要帶有刻板印象,“避免給予種族、國籍、性別、年齡、宗教、性取向、政治意識形態(tài)、地理位置或類似的類別進(jìn)行推測。”

此外,谷歌還要求員工“不要把Bard描述成一個人,暗示任何情況,或稱有類似人類的經(jīng)歷。”

“來自谷歌員工和外部值得信任的測試者的測試和反饋都是改善Bard的重要環(huán)節(jié),可以確保它為我們的用戶做好準(zhǔn)備。”谷歌發(fā)言人在聲明中說。“我們經(jīng)常向谷歌員工尋求意見和建議,幫助我們改進(jìn)產(chǎn)品,這是我們內(nèi)部文化的重要組成部分。”

為了激勵公司內(nèi)的員工對Bard進(jìn)行測試并提供反饋,Raghavan表示,為Bard測試做出貢獻(xiàn)的員工將獲得一個“Moma徽章”,出現(xiàn)在內(nèi)部員工檔案上。

掃一掃分享本頁