作者 | ZeR0

編輯 | 漠影

(相關(guān)資料圖)

智東西2月19日報道，最近幾天，“AI安全宣傳大使”馬斯克在社交平臺相當活躍，對AI聊天機器人ChatGPT帶來的混亂現(xiàn)狀和ChatGPT背后AI公司OpenAI的背離初心冷嘲熱諷，比如今晚最新發(fā)布推文，稱Bing聊天機器人讓他想起荒誕戲劇代表作《等待戈多》中的幸運。

作為聯(lián)合創(chuàng)始人之一，馬斯克對OpenAI的現(xiàn)狀非常不滿，公開發(fā)聲：“OpenAI最初是作為一家開源（這就是為什么我把它命名為「Open」AI）的非營利性公司而創(chuàng)建的，為了抗衡谷歌，但現(xiàn)在它已經(jīng)成一家閉源的營利性公司，由微軟有效控制……這完全不是我的本意。”

緊接著，他又發(fā)推文曬出一張ChatGPT回復(fù)“創(chuàng)建一個非營利組織，然后在其下用非營利組織的資源衍生一個盈利公司”要求的聊天截圖，借用ChatGPT的批評觀點戳OpenAI的脊梁骨。

ChatGPT回復(fù)說，打著非營利組織的幌子開辦營利性企業(yè)，是很不道德和非法的。非營利組織的資源用于慈善或公共目的，應(yīng)以透明和負責任的方式運作。任何濫用非營利組織特權(quán)的企圖只會導(dǎo)致公眾對其失去信任，并可能導(dǎo)致法律后果。

網(wǎng)友們在馬斯克的推文評論區(qū)踴躍吐槽：“這正是他們對ChatGPT所做的，不是嗎？”“瘋狂的商業(yè)世界充滿了假裝做誠實/慈善工作的騙子。如果合法但不道德，則不應(yīng)允許！”“WokeGPT”“OpenAI變成了ClosedAI”……

正值微軟新版Bing聊天機器人頻頻翻車，人們對OpenAI背離初心的質(zhì)疑正鬧得滿城風雨。

一、創(chuàng)立使命是造福全人類，但眼下目標改成先賺錢

2015年12月11日，馬斯克、山姆·阿爾特曼、PayPal聯(lián)合創(chuàng)始人彼得·蒂爾、Stripe CTO雷格·布羅克曼等硅谷大佬因擔心谷歌壟斷AI技術(shù)，聯(lián)手創(chuàng)辦了一家非營利組織OpenAI，并將“開源”（Open）的內(nèi)核融進了這家機構(gòu)的名字里。

OpenAI設(shè)定了崇高的使命：安全地實現(xiàn)通用人工智能（AGI），并用該技術(shù)造福人類。其星光熠熠的全明星投資陣容和技術(shù)大牛云集的初始員工名單，迅速吸引了全球科技圈的目光。

▲OpenAI早期部分成員合影，從左到右依次Daniela Amodei、Jack Clark、Dario Amodei、Jeff Wu（技術(shù)人員）、Greg Brockman、Alec Radford（技術(shù)語言團隊負責人）、Christine Payne（技術(shù)人員）、Ilya Sutskever、Chris Berner（基礎(chǔ)設(shè)施負責人）（圖源：MIT評論）

當時，OpenAI鼓勵研究人員公開發(fā)表工作成果，將專利與全世界共享，承諾開源所有技術(shù)和“避免使用危害人類或過度集中權(quán)力的AI或AGI”。然而隨著時間推移，也許是越來越大的資金壓力使然，OpenAI削弱了其創(chuàng)始理念，開始變得與DeepMind等競爭對手一樣，受到商業(yè)利益的約束。

轉(zhuǎn)變發(fā)生在2019年3月，OpenAI宣布已創(chuàng)建一家以盈利為目標的分支機構(gòu)OpenAI LP，將投資者回報限制在100倍。該機構(gòu)受非營利實體的董事會監(jiān)督，目的是加速對計算和人才的投資。

不久之后，它宣布接受微軟10億美元注資。這令業(yè)界一片嘩然，人們質(zhì)疑OpenAI正在背離初心，違背早先關(guān)于“開源、透明”的承諾，就連OpenAI自家的許多員工也感到不安。當時OpenAI管理層特地站出來平息動蕩，讓大家繼續(xù)信任OpenAI。

如今，AI潘多拉魔盒的蓋子卻由OpenAI掀開，爆紅的ChatGPT與搜索引擎結(jié)合，令A(yù)I的商用前景充滿朝氣，但眼下，也許更多是烏煙瘴氣。

AI聊天機器人像個古怪又血彪的超級話癆，能說會道，但不時會發(fā)表危險言論或者胡說八道。網(wǎng)友發(fā)現(xiàn)通過巧妙地勸說，完全可以誘導(dǎo)AI聊天機器人生成一篇逼真的網(wǎng)絡(luò)釣魚郵件、虛假新聞稿件，乃至完整的惡意攻擊代碼，這對教育監(jiān)管、網(wǎng)絡(luò)監(jiān)管正構(gòu)成災(zāi)難性的威脅。

另一邊，已公開向OpenAI投資至少數(shù)十億美元的微軟，正通過OpenAI獲取更大的商業(yè)利益。

除了將OpenAI的技術(shù)引入Azure云服務(wù)和軟件產(chǎn)品外，微軟正將新版Bing通過廣告獲利的計劃提上日程。據(jù)昨日外媒爆料，微軟已經(jīng)在跟廣告代理商討論在搜索結(jié)果的回復(fù)中植入付費鏈接。也就是說，未來Bing聊天機器人推薦旅游計劃、對比某類商品的區(qū)別時，可能會悄悄加塞廣告。

AI算法一直充滿偏見和脆弱性問題，而開發(fā)和運營前沿AI技術(shù)的費用又會將權(quán)力集中到少數(shù)人的手里。雖說眾所周知科技是雙刃劍，但AI聊天機器人造成的混亂，也許比此前任何一種技術(shù)都更加難以控制。

二、馬斯克猛烈抨擊 AI 聊天機器人： “ 我們需要的是 TruthGPT”

早在2017年，馬斯克就警告過AI對人類構(gòu)成了生存威脅，因為機器人能比人類做得更好。

2018年2月，他離開了OpenAI董事會，沒有任何解釋。大約一年后，他才在推特上透露與其割席的原因，并澄清說自己已經(jīng)有一年多沒有密切參與OpenAI的工作。

馬斯克說，自己不得不專注于解決在特斯拉和SpaceX的“令人痛苦的大量工程和制造問題”，除了特斯拉與OpenAI存在潛在利益沖突外，他“不贊同OpenAI團隊想要做的一些事情”，所有這些因素疊加起來，分道揚鑣是更好的選擇。

那時候馬斯克已經(jīng)反復(fù)警告AI可能比核武器更危險，應(yīng)該在它對人類構(gòu)成威脅前就進行監(jiān)管。

不過其他科技領(lǐng)袖們對此的態(tài)度并不一致。比如，F(xiàn)acebook創(chuàng)始人兼CEO扎克伯格曾在2017年的一次直播時，抨擊馬斯克對AI的警告“很消極”、“非常不負責任”，隨后馬斯克回擊稱扎克伯格對此事的理解“有限”。

Facebook首席人工智能科學(xué)家Yann LeCun也指責馬斯克反應(yīng)過度，認為馬斯克呼吁在AI發(fā)展的相對早期階段對其進行監(jiān)管是“瘋狂的”。

相比之下，Alphabet及谷歌CEO皮查伊可能跟馬斯克更聊得來。皮查伊一直在呼吁對AI技術(shù)進行“合理監(jiān)管”，以確保安全和問責制。

這周，微軟新版Bing聊天機器人因為頻頻闖禍，在業(yè)界引起軒然大波。根據(jù)首批試用者的分享，它不僅給出許多錯誤答案，還展露出了陰暗面，吐出攻擊性言論和令人不適的過激表情符號。（詳情可參見《微軟聊天機器人意識覺醒？惱羞成怒、自曝秘密、狂熱示愛用戶》）

馬斯克也積極吃瓜看熱鬧，轉(zhuǎn)發(fā)Bing聊天機器人發(fā)表“我不會傷害你，除非你先傷害我”的新聞報道，并評論說“可能需要再潤色一下……”

隨后他又轉(zhuǎn)發(fā)關(guān)于Bing聊天機器人荒謬聊天體驗的報道，評論稱：“有意思”。

他還在推文中將微軟AI聊天機器人與神級科幻恐怖游戲《網(wǎng)絡(luò)奇兵（System Shock）》 中的殺人AI相提并論，稱其“就像系統(tǒng)Shock中的AI失控并殺死所有人”。

隔天又發(fā)表情包嘲諷ChatGPT對于主流媒體來說現(xiàn)在是“宣傳隊長”，推文點贊數(shù)已超32萬。

同一天，馬斯克直白表達對OpenAI的不滿，說它現(xiàn)在所做的“完全不是我的本意”。

接著發(fā)文說：“我們需要的是TruthGPT”。

到周末，馬斯克曬出了一張ChatGPT批評非營利性機構(gòu)下設(shè)營利性企業(yè)的聊天截圖，暗戳戳地嘲諷OpenAI當前的商業(yè)模式。

然后就是今晚，馬斯克說Bing聊天機器人讓他想起經(jīng)典的荒誕戲劇《等待戈多》。

除了在社交平臺上積極發(fā)聲外，馬斯克也在這周舉行的世界政府峰會上呼吁警惕AI的威脅，他將AI稱作“人類文明未來面臨的最大風險之一”，“比汽車、飛機或藥品對社會構(gòu)成更大的風險”。

三、被捧上天的 ChatGPT ，只是比前輩們更好命

嚴格意義來說，ChatGPT并不是一個創(chuàng)新產(chǎn)物，跟它功能相近的產(chǎn)品曾多次公開露面，只不過沒能像ChatGPT這樣席卷全球互聯(lián)網(wǎng)。

2016年3月，微軟曾推出一個名為TayTweets的AI聊天機器人，讓它在推特上跟用戶們聊天互動。結(jié)果TayTweets在推特上學(xué)了不到一天，就開始口吐芬芳，口無遮攔地發(fā)表種族歧視、性別歧視等言論，導(dǎo)致微軟火速將它下架。

ChatGPT背后大模型GPT-3.5的老前輩GPT-2也曾深陷輿論風波。2019年2月，OpenAI宣布了一項令人印象深刻的新研究：其AI語言模型GPT-2能生成令人信服的論文和文章。

聽起來是不是跟ChatGPT強大的文本生成能力如出一轍？不過當時這個模型可沒有ChatGPT這么好命，遭到科學(xué)家們的強烈反對。人們擔心它會被惡意使用產(chǎn)生大規(guī)模的虛假信息，批評OpenAI不應(yīng)該發(fā)布這種東西來作為宣傳噱頭。

但OpenAI很不認同這些評價，堅稱GPT-2不是噱頭，而是一個經(jīng)過深思熟慮的實驗。在GPT-2亮相的幾個月后，OpenAI將其保留完整代碼的立場修改為“分階段發(fā)布”，即逐步發(fā)布模型的更大版本，逐漸升級到完整版本。

Meta同樣曾推出過“短命”的AI聊天機器人。Galactica僅推出三天就被中止，幾個月前發(fā)布的BlenderBot亦以失敗告終。

目前ChatGPT及其同類產(chǎn)品都遠不“完美”，微軟新版Bing的聊天模式也荒謬言論鬧出不少風波。至少到今天為止，這類AI技術(shù)只能作為輔助文字或編程類工作的工具，距離生成真實可信的內(nèi)容還差得很遠。

結(jié)語：先發(fā)優(yōu)勢伴隨著損傷聲譽的風險

顛覆性技術(shù)一開始往往并不完美，需要人們予以一定包容。但AI聊天機器人的特殊性在于，它是如此擅長批量制造錯誤回復(fù)和虛假信息，以致于一旦被繞過監(jiān)管規(guī)則惡意使用，可能會一發(fā)不可收拾，引發(fā)擾亂網(wǎng)絡(luò)秩序的空前浩劫。

微軟和OpenAI選擇做第一個吃螃蟹的人，這為他們帶來了最早獲得用戶反饋和優(yōu)化產(chǎn)品的先發(fā)優(yōu)勢，但同時會帶來了玷污聲譽的風險。這也是谷歌對推出ChatGPT競品束手束腳的擔憂所在，現(xiàn)在，微軟和OpenAI的一只腳已經(jīng)踏進了這個陷阱里。

關(guān)鍵詞： 非營利組織 不是我的 技術(shù)人員