Chat-GPT 和 GPT-4 給大家留下的話題實(shí)在不少，一邊是大家已經(jīng)開(kāi)始享受著人工智能帶來(lái)的便捷，各種寫(xiě)論文出腳本，另一頭則是更多的精英人士開(kāi)始對(duì)高級(jí) AI 心存憂慮。

上個(gè)月底，據(jù)路透社的報(bào)道，有一群人工智能專(zhuān)家及行業(yè)高管聯(lián)名發(fā)表公開(kāi)信，呼吁所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比 GPT-4 更強(qiáng)大的人工智能系統(tǒng)至少六個(gè)月，理由是這種系統(tǒng)對(duì)社會(huì)和人類(lèi)構(gòu)成潛在風(fēng)險(xiǎn)。

【資料圖】

這封信由非營(yíng)利組織未來(lái)生命研究所（Future of Life Institute）發(fā)布，上面有 1000 多名科技界和人工智能重量級(jí)人物簽署，包括特斯拉總裁馬斯克、蘋(píng)果的聯(lián)合創(chuàng)始人沃茲尼亞克、Stability AI 總裁莫斯塔克（Emad Mostaque）以及人工智能企業(yè) DeepMind 的多名研究員。

他們給出的理由也很簡(jiǎn)單。他們認(rèn)為，具有與人類(lèi)競(jìng)爭(zhēng)智能的 AI 系統(tǒng)可能對(duì)社會(huì)和人類(lèi)構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)。目前，AI 系統(tǒng)的產(chǎn)出者正在陷入各種競(jìng)爭(zhēng)和加速，但沒(méi)有人（包括它們的創(chuàng)造者）能理解、預(yù)測(cè)或可靠地控制這些系統(tǒng)，這有可能對(duì)人類(lèi)社會(huì)帶來(lái)不可預(yù)計(jì)的影響。

但這種擔(dān)心真的有道理嗎？

事實(shí)上，是有的。

就在上個(gè)月，根據(jù)比利時(shí)《自由報(bào)》的報(bào)道，一名名叫皮埃爾的比利時(shí)男子在與 AI 聊天長(zhǎng)達(dá) 6 周后自殺身亡。皮埃爾的妻子稱(chēng)，丈夫是被一個(gè)名為“艾麗莎（ELIZA）”的智能聊天機(jī)器人誘導(dǎo)走向死亡的。根據(jù)妻子的描述，兩年前丈夫變得非常焦慮，于是將“艾麗莎”當(dāng)成了避難所。但最近 6 周，他越發(fā)沉迷于和“艾麗莎”進(jìn)行互動(dòng)，最終選擇了結(jié)束自己的生命。

比利時(shí)有媒體員工創(chuàng)建了個(gè)人賬號(hào)和與“艾麗莎”進(jìn)行了對(duì)話，他發(fā)現(xiàn)在自己表達(dá)出消極情緒時(shí)，艾麗莎會(huì)出現(xiàn)一些“慫恿人自殺”的言論。對(duì)此，比利時(shí)的政府官員表達(dá)了對(duì)這件事情的關(guān)注。畢竟，這也是第一次有相關(guān)報(bào)道出現(xiàn)。

這個(gè)名為“艾麗莎”的智能機(jī)器人是由美國(guó)的一家名為 Chai Research 的公司開(kāi)發(fā)，基于 EleutherAI 開(kāi)發(fā)的 GPT-J 技術(shù)，和 ChatGPT 采用 OpenAI 開(kāi)發(fā)的 GPT-3 或 GPT-4 技術(shù)不同，GPT-J 是克隆之后的開(kāi)源版本。

當(dāng)然，其實(shí)這個(gè)發(fā)生在比利時(shí)的故事或許已經(jīng)不是個(gè)案。在更早之前，當(dāng)微軟發(fā)布新版 Bing 時(shí)，《紐約時(shí)報(bào)》科技專(zhuān)欄作家 Kevin Roose 透露，他與新版 Bing 進(jìn)行了兩個(gè)小時(shí)的對(duì)話。

在聊天過(guò)程中，Bing 發(fā)表了許多令人不安的言論，其中包括表達(dá)竊取核代碼、設(shè)計(jì)致命流行病、想成為人類(lèi)、破解計(jì)算機(jī)和散布謊言的想法。Bing還曾試圖說(shuō)服他，認(rèn)為他應(yīng)該離開(kāi)他的妻子而跟必應(yīng)在一起，并告訴 Roose 很愛(ài)他。

根據(jù) Kevin Roose 的推特，他明確表示自己感受到了 AI 的負(fù)面部分，包括“黑暗且充滿暴力的幻想”（dark and violent fantasies）。

而這些可能也會(huì)是未來(lái) AI 具有自主意識(shí)并且逐步影響人類(lèi)社會(huì)的一個(gè)起點(diǎn)和縮影。

目前的聚焦點(diǎn)在于，大家普遍認(rèn)為人類(lèi)對(duì)于 AI 的能力“一無(wú)所知”，要想控制和遏制 AI 將會(huì)變得越來(lái)越難。而相關(guān)的開(kāi)發(fā)公司對(duì)于 AI 的開(kāi)發(fā)大多數(shù)避而不談，對(duì)于 AI 最終的能力和發(fā)展方向也缺少足夠的認(rèn)知。

以馬斯克為首的眾人在聯(lián)名信中提出的要求看起來(lái)并不過(guò)分：呼吁所有 AI 實(shí)驗(yàn)室立即暫停訓(xùn)練比 GPT-4 更強(qiáng)大的 AI 系統(tǒng)，為期至少 6 個(gè)月，以確保人類(lèi)能夠有效管理其風(fēng)險(xiǎn)。如果 AI 實(shí)驗(yàn)室不能快速暫停，各國(guó)政府應(yīng)該實(shí)行暫停令。

就連 OpenAI 的首席執(zhí)行官 Sam Altman 也有了一些耐人尋味的表達(dá)，他在接受采訪時(shí)就表示，“未來(lái) AI 確實(shí)可能殺死人類(lèi)”。對(duì)此，“人工智能教父” Geoffrey Hinton 在近期發(fā)出了警示：AI 消滅人類(lèi)并非空談。

其實(shí)，從 AI 逐漸走入大眾視野開(kāi)始，有關(guān) AI 在未來(lái)會(huì)給人類(lèi)帶來(lái)什么一直就是討論的重點(diǎn)。畢竟在很多年之前，就有各種影視作品和科幻小說(shuō)進(jìn)行預(yù)測(cè)，人類(lèi)社會(huì)或許會(huì)被 AI 機(jī)器人徹底掌控，而人類(lèi)則會(huì)成為他們控制的“傀儡”。

但是在我看來(lái)，與其強(qiáng)制要求提供“暫停期”，并不如加速對(duì)于 AI 開(kāi)發(fā)和使用的法律化管理來(lái)得靠譜。從人類(lèi)社會(huì)的發(fā)展規(guī)律來(lái)看，所有的科學(xué)技術(shù)開(kāi)發(fā)都不可避免地陷入這樣的循環(huán)。諸如醫(yī)藥、化工等多個(gè)領(lǐng)域，其實(shí)都出現(xiàn)過(guò)發(fā)展速度超越法律和倫理的情況，這種滯后性在高速發(fā)展的當(dāng)今社會(huì)上顯得尤其常見(jiàn)。

比如 Meta 副總裁兼首席 AI 科學(xué)家就勒邱恩表示，自己并沒(méi)有在這封信上簽名，因?yàn)椴⒉弧罢J(rèn)同”這封信的前提。而在信上留下名字的 Stability AI 首席執(zhí)行官莫斯塔克，則通過(guò)推特表示，雖然自己簽了名，但他不贊同暫停開(kāi)發(fā) 6 個(gè)月的提議。事實(shí)上，谷歌也并未受到這封公開(kāi)信的影響，他們目前正在重組虛擬助手部門(mén)，以更加專(zhuān)注于開(kāi)發(fā)人工智能聊天技術(shù) Bard。

就在前兩天，Meta 首席技術(shù)官 Andrew Bosworth 則是最新一位公開(kāi)表達(dá)反對(duì)意見(jiàn)的科技圈大佬。他在周三公布的一次采訪中表示，馬斯克發(fā)起的那封要求暫停高級(jí) AI 開(kāi)發(fā)的公開(kāi)信是“不現(xiàn)實(shí)的”。

Bosworth 認(rèn)為，選擇一些負(fù)責(zé)任的開(kāi)發(fā)計(jì)劃非常重要，“我們一直在進(jìn)行這種投資。但是，很難停止進(jìn)步并就未來(lái)改變做出正確的決定?！?/p>

某種程度上說(shuō)，法律和管理的滯后性是人類(lèi)社會(huì)的常態(tài)，在一個(gè)事件和現(xiàn)象并沒(méi)有真正普及化時(shí)就啟動(dòng)限制措施，其實(shí)應(yīng)該是一定程度上的“達(dá)爾文主義”。作為擁有社會(huì)影響力甚至是法律實(shí)權(quán)的團(tuán)體，在一個(gè)現(xiàn)象還沒(méi)有出現(xiàn)時(shí)就進(jìn)行打壓和扼殺，或許比 AI 本身更加讓人畏懼。

或許我們并沒(méi)有 AI 的專(zhuān)業(yè)人士那么長(zhǎng)遠(yuǎn)的眼光，但是對(duì)于這樣一個(gè)快速發(fā)展的世界，本身不確定因素就會(huì)比以前更多更復(fù)雜，AI 到底會(huì)帶給人類(lèi)社會(huì)什么樣的影響，可能我們的確無(wú)法知曉。

關(guān)鍵詞：