雷遞網(wǎng) 樂天 4月15日

人工智能企業(yè)OpenAI CEO Sam Altman日前就呼吁暫停AI開發(fā)的公開信做出回應(yīng)，稱安全對(duì)OpenAI很重要，而這封信缺乏技術(shù)上的細(xì)微差別，說明哪些OpenAI需要暫停的地方（lacked technical nuance about where we need the pause）。

此前，外界一直傳聞OpenAI正在GPT-5。

(資料圖片僅供參考)

生命未來研究所（Future of Life Institute）還公布一封公開信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月，稱這種暫停應(yīng)該是公開的和可驗(yàn)證的，并且包括所有關(guān)鍵參與者。

公開信稱，如果不能迅速實(shí)施這種暫停，政府應(yīng)介入并實(shí)行暫停。人工智能實(shí)驗(yàn)室和獨(dú)立專家應(yīng)該利用這次暫停，共同開發(fā)和實(shí)施一套用于高級(jí)人工智能設(shè)計(jì)和開發(fā)的共享安全協(xié)議，并由獨(dú)立的外部專家進(jìn)行嚴(yán)格審計(jì)和監(jiān)督。

“這些協(xié)議應(yīng)確保遵守它們的系統(tǒng)安全，且無可置疑。這不意味著總體上暫停AI開發(fā)，只是緊急從奔向不可預(yù)測(cè)的大型黑盒模型的危險(xiǎn)競(jìng)賽中收回腳步。”

這封信最后寫道，“人類可以享受人工智能帶來的繁榮未來。成功創(chuàng)建強(qiáng)大的AI系統(tǒng)后，我們現(xiàn)在可以享受‘AI之夏’，收獲回報(bào)，設(shè)計(jì)這些系統(tǒng)以造福所有人，并為社會(huì)提供適應(yīng)的機(jī)會(huì)。社會(huì)已經(jīng)暫停其他可能對(duì)社會(huì)造成災(zāi)難性影響的技術(shù)。我們可以在這個(gè)領(lǐng)域也這樣做。讓我們享受一個(gè)漫長(zhǎng)的AI之夏，而不是毫無準(zhǔn)備地陷入秋天?！?/p>

圖靈獎(jiǎng)得主約書亞·本希奧（Yoshua Bengio）、《人工智能：現(xiàn)代方法》作者斯圖爾特·羅素（Stuart Russell）、 蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）、Stability AI首席執(zhí)行官埃馬德·莫斯塔克（Emad Mostaque）等科技界領(lǐng)袖人物均簽名，馬斯克也是簽名的名人之一。

Sam Altman說，“我非常同意其中的部分內(nèi)容。在我們完成對(duì)GPT-4訓(xùn)練后，我們花了六個(gè)多月的時(shí)間，真正研究模型的安全性......真正嘗試了解正在發(fā)生的事情并盡可能地減輕影響是很重要的。“

Sam Altman還澄清說，這封信的早期版本聲稱OpenAI正在訓(xùn)練 GPT-5，“我們不會(huì)，一段時(shí)間內(nèi)不會(huì)，所以從這個(gè)意義上說，這有點(diǎn)愚蠢。（we are not, won"t for some time, so in that sense it was sort of silly）”

OpenAI正在開發(fā)GPT-4的附加功能，這些功能存在安全問題，需要解決。一般來說，“隨著能力變得越來越重要，安全標(biāo)準(zhǔn)必須提高。

”我們將繼續(xù)盡可能誠(chéng)實(shí)地對(duì)待AI的發(fā)展。相信它們會(huì)影響每個(gè)人，因此應(yīng)該讓盡可能多的人參與測(cè)試和了解它們。了解優(yōu)點(diǎn)和缺點(diǎn)，這是值得的，即使我們確實(shí)傾向于在公共場(chǎng)合讓自己難堪，并且不得不經(jīng)常根據(jù)新數(shù)據(jù)改變主意，也要權(quán)衡取舍?！?/p>

此前，那封公開信被部分人視為是馬斯克及一眾被OpenAI 生態(tài)伙伴們甩在身后的科技巨頭們的緩兵之計(jì)。

有觀點(diǎn)認(rèn)為，馬斯克參與簽名，主要是OpenAI的迭代速度太快了。Google的搜索比對(duì)手好 20%就占據(jù)了 90%的搜索市場(chǎng)份額。OpenAI 的影響會(huì)更廣泛，所有的上層應(yīng)用都希望使用優(yōu)更強(qiáng)大 AI 賦能的云服務(wù)。只能寄希望于 OpenAI 會(huì)像自動(dòng)駕駛那樣發(fā)展到某個(gè)階段會(huì)遇到難以克服的瓶頸。

LinkedIn聯(lián)合創(chuàng)始人里德霍夫曼就聲稱，馬斯克在這封信上的簽名只是出于嫉妒。霍夫曼表示，馬斯克和其他人希望暫停，以便他們能夠趕上并提供自己的AI產(chǎn)品。

馬斯克的確看起來就像一個(gè)"心機(jī)Boy"，轉(zhuǎn)頭就投入AI浪潮，根據(jù)內(nèi)華達(dá)州的一份文件，馬斯克已經(jīng)成立一家名為X.AI Corp的新人工智能公司，還被曝出購買了大約1萬個(gè)GPU，并從DeepMind處招募到AI人才，打算開發(fā)自己的大語言模型（LLM）項(xiàng)目。

目前，馬斯克旗下的Twitter已從Alphabet子公司 DeepMind 處招募工程師 Igor Babuschkin和Manuel Kroiss?？梢钥闯?，馬斯克一直在積極物色 AI 領(lǐng)域的人才，希望與OpenAI展開競(jìng)爭(zhēng)。

———————————————

雷遞由媒體人雷建平創(chuàng)辦，若轉(zhuǎn)載請(qǐng)寫明來源。

關(guān)鍵詞：