6月27日-29日，2023年夏季達(dá)沃斯世界經(jīng)濟(jì)論壇在中國(guó)天津召開(kāi)，主題為“企業(yè)家精神：世界經(jīng)濟(jì)驅(qū)動(dòng)力”。此次會(huì)議匯聚全球近100個(gè)國(guó)家和地區(qū)的1500多名政商學(xué)界精英領(lǐng)袖們，也是自2019年以來(lái)夏季達(dá)沃斯首次回到線下舉行。

(資料圖)

面對(duì)當(dāng)前世界低增長(zhǎng)、生活成本高漲、地緣政治分化加劇、不平等擴(kuò)大以及氣候和自然危機(jī)日益嚴(yán)重的影響，等相互交織的危機(jī)，達(dá)沃斯世界經(jīng)濟(jì)論壇旨在通過(guò)搭建對(duì)話、呼吁創(chuàng)新與恢復(fù)合作的方式，應(yīng)對(duì)共同挑戰(zhàn)，重振全球經(jīng)濟(jì)增長(zhǎng)。

澎湃研究所研究員在達(dá)沃斯現(xiàn)場(chǎng)發(fā)現(xiàn)，新興科技的發(fā)展以及它所帶來(lái)的政治經(jīng)濟(jì)影響，是本屆達(dá)沃斯眾多論壇中的一大焦點(diǎn)。在為期3天的達(dá)沃斯時(shí)間中，彌漫著對(duì)新興技術(shù)的喜與憂(yōu)。

2023年6月27日，天津，第十四屆夏季達(dá)沃斯論壇舉辦。視覺(jué)中國(guó) 圖

你也信過(guò)AI說(shuō)的慌嗎？

2022年末ChatGPT的橫空出世，令生成式人工智能走進(jìn)全球的聚光燈下。除了對(duì)話類(lèi)生成式人工智能，其代表技術(shù)還包括在文化創(chuàng)作中的自動(dòng)創(chuàng)作，在圖像應(yīng)用上的深度偽造等。

生成式人工智能的時(shí)代已經(jīng)到來(lái)，隨著時(shí)間推移，它進(jìn)一步改變甚至顛覆各行各業(yè)，好的一方面是，它將提高生產(chǎn)力，開(kāi)啟一個(gè)創(chuàng)新新時(shí)代；但另一方面，許多工作將受到?jīng)_擊與重新定位，技術(shù)的不透明也會(huì)引發(fā)信任危機(jī)等。

在“生成式人工智能：是敵是友？”的圓桌論壇上，AI教育公司Learnable董事長(zhǎng)王冠表示，AI可以幫助人類(lèi)，以其所在的教育領(lǐng)域?yàn)槔?，雖然教師與學(xué)生的互動(dòng)和情感無(wú)法被替代，但在批改試卷和輔助教學(xué)上AI可以幫助教師。AI比人類(lèi)成本更低、效率更高，可以更大規(guī)模地進(jìn)行部署?！吧踔料乱徊娇梢詰?yīng)用于中國(guó)的高考批改中?！蓖瑫r(shí)，他相信，隨著AI產(chǎn)品更加成熟，產(chǎn)品價(jià)格會(huì)變得更加便宜，也許一塊平板電腦就能彌合中國(guó)城鄉(xiāng)間的教育資源差距。

但王冠也指出，垂直行業(yè)的AI與目前OpenAI（ChatGPT制造商）的不同之處在于，現(xiàn)在用戶(hù)能夠容忍O(píng)penAI的并非百分百準(zhǔn)確，“但在教育領(lǐng)域不能冒險(xiǎn)”。同樣不能出差錯(cuò)的還包括醫(yī)療、自動(dòng)駕駛等多個(gè)垂直領(lǐng)域。

“幾年前大家一直把第四次工業(yè)革命掛在嘴邊，”從事自然語(yǔ)言處理30多年的香港科技大學(xué)電子和計(jì)算機(jī)工程系主任教授馮雁說(shuō)，“如今生成式AI的出現(xiàn)，我覺(jué)得超過(guò)工業(yè)范疇，它所帶來(lái)的沖擊是屬于人類(lèi)文明的下一個(gè)革命?！倍鳤I與人的區(qū)別在于，它們沒(méi)有豐富的內(nèi)心世界。雖然AI在認(rèn)知層面做任務(wù)，完全可以與人類(lèi)大腦并論，但是機(jī)器不給提示，它什么都不會(huì)做。

同時(shí)，馮雁指出目前的語(yǔ)言模型所存在的問(wèn)題。首先是不透明，對(duì)用戶(hù)的不透明導(dǎo)致人們對(duì)智能技術(shù)的信任危機(jī)；對(duì)研究者、學(xué)者也不透明，這意味著無(wú)法預(yù)期AI生成的答案。通過(guò)對(duì)標(biāo)研究，馮雁團(tuán)隊(duì)發(fā)現(xiàn)，選擇的提示詞不同，會(huì)導(dǎo)致不同的答案，這被他們稱(chēng)為AI出現(xiàn)“幻覺(jué)”的現(xiàn)象。生成式AI會(huì)按照指令生成指令者任何想要的內(nèi)容，有些是基于客觀事實(shí)存在的，但有些是編造的。

“我也曾相信過(guò)ChatGPT說(shuō)的謊?！瘪T雁表示，減少AI的幻覺(jué)，成為研究者們的一大努力方向。

第二，ChatGPT的回答中帶有偏見(jiàn)與惡意。某種程度上，ChatGPT的答案反映的是社會(huì)現(xiàn)狀，所以也包含著當(dāng)下存在的社會(huì)偏見(jiàn)。例如，清華大學(xué)交叉信息研究院助理教授于洋曾對(duì)澎湃新聞 表示，AI的性別歧視主要源于：1）供AI學(xué)習(xí)訓(xùn)練的數(shù)據(jù)本身具有性別偏見(jiàn)，也成為社會(huì)現(xiàn)實(shí)的一個(gè)反射；2）設(shè)計(jì)開(kāi)發(fā)者主要為白人中青年男性，對(duì)第三世界、邊緣群體的關(guān)注不到位；3）算法本身的不足，也加劇歧視。

馮雁還指出，大型語(yǔ)言模型大多數(shù)基于英文數(shù)據(jù)，除了中文與西語(yǔ)作為另外兩大被廣泛運(yùn)用的語(yǔ)言外，小眾語(yǔ)言在網(wǎng)絡(luò)上的數(shù)據(jù)相對(duì)有限，也局限了其自然語(yǔ)言處理上的發(fā)展。馮雁建議，政府應(yīng)助力加強(qiáng)其他語(yǔ)言的資源，讓更多的語(yǔ)言有更多更好的模型。“我們現(xiàn)在不想看到經(jīng)濟(jì)上的貧富差距，復(fù)制到模型上的差距。”。

除了嘉賓們提及的生成式AI會(huì)“產(chǎn)生幻覺(jué)”、“說(shuō)謊”、帶有社會(huì)偏見(jiàn)之外，更令人擔(dān)憂(yōu)的也許不是技術(shù)本身，而是技術(shù)被人另作他用的風(fēng)險(xiǎn)。例如IBM大中華區(qū)董事長(zhǎng)兼總經(jīng)理陳旭東稱(chēng)，IBM很早開(kāi)始研究AI背后的風(fēng)險(xiǎn)以及AI倫理。對(duì)此，IBM放棄了對(duì)人臉識(shí)別的研究，因?yàn)檫@項(xiàng)技術(shù)可能會(huì)被非法利用。

可見(jiàn)，技術(shù)狂奔之下，技術(shù)治理應(yīng)該跟上步伐。如何保護(hù)科技倫理、數(shù)據(jù)隱私和知識(shí)產(chǎn)權(quán)等諸多問(wèn)題，正成為政商學(xué)各界共同關(guān)注的焦點(diǎn)。

在另一場(chǎng)“擁抱人工智能革命，提高人工智能水平”的圓桌討論上，話題聚焦在哪些框架和做法能幫助快速提高國(guó)家的人工智能的治理水平？——誰(shuí)來(lái)監(jiān)管？如何監(jiān)管？如何兼顧創(chuàng)新與安全？——這些追問(wèn)成為話題的風(fēng)暴中心。

擁抱AI革命，各國(guó)監(jiān)管方式不一

互聯(lián)網(wǎng)世界是否值得信任？

在世界經(jīng)濟(jì)論壇的《互聯(lián)世界狀況（2023 年版）》調(diào)查報(bào)告中，超過(guò)八成的受訪者表示，對(duì)負(fù)責(zé)任地使用互聯(lián)設(shè)備生成的數(shù)據(jù)缺乏信心。而如果消費(fèi)者不信任這些設(shè)備，那么就難以大規(guī)模擴(kuò)展這些設(shè)備帶來(lái)的益處。

巴斯大學(xué)計(jì)算機(jī)科學(xué)系副教授Joanna Bryson表示，數(shù)字行業(yè)長(zhǎng)期來(lái)沒(méi)有足夠的規(guī)范，人們使用的很多平臺(tái)，如郵箱、社交平臺(tái)，運(yùn)營(yíng)并不透明。她指出大眾不信任AI是因?yàn)楂@取的信息還不夠透明，建議推出一種“透明度文化”。同時(shí)，她也呼吁政府出臺(tái)對(duì)技術(shù)的監(jiān)管，以確保新的AI公司以合規(guī)的方式使用新技術(shù)。

盧旺達(dá)信息通信技術(shù)與創(chuàng)新部部長(zhǎng)Paula Ingabire表示，數(shù)據(jù)是AI的核心，如何讓數(shù)據(jù)被業(yè)界合理使用至關(guān)重要。盧旺達(dá)政府推出數(shù)據(jù)管理平臺(tái)，平衡技術(shù)創(chuàng)新和個(gè)人數(shù)據(jù)保護(hù)，例如通過(guò)統(tǒng)一全國(guó)醫(yī)療機(jī)構(gòu)的病歷，建立病歷信息交換平臺(tái)，通過(guò)數(shù)據(jù)隱私保護(hù)法律，最終讓數(shù)據(jù)所有權(quán)屬于病患本人。

Paula Ingabire也提出，AI監(jiān)管應(yīng)由政府牽頭，制定合理的方案?！捌鋵?shí)政府也無(wú)法單打獨(dú)斗，必須要和企業(yè)合作，私營(yíng)部門(mén)的力量也要進(jìn)來(lái)?！?

澎湃研究所研究員梳理發(fā)現(xiàn)，不同國(guó)家對(duì)AI的監(jiān)管治理方式不一。歐盟已通過(guò)人工智能法案，多國(guó)加速研究監(jiān)管框架，也有國(guó)家并不急于監(jiān)管。

歐盟于今年6月通過(guò)《人工智能法案》（AI Act），對(duì)AI及其相關(guān)應(yīng)用進(jìn)行分級(jí)風(fēng)險(xiǎn)管理，基于風(fēng)險(xiǎn)劃分的四種等級(jí)分別為被禁止、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)、低風(fēng)險(xiǎn)。其中，實(shí)時(shí)遠(yuǎn)程生物識(shí)別技術(shù)（即公開(kāi)場(chǎng)合人臉識(shí)別）被設(shè)為“被禁止”級(jí)別，對(duì)生成式AI（例如ChatGPT）提出必須對(duì)生成的內(nèi)容進(jìn)行標(biāo)注，以區(qū)別“深度偽造信息”，并要求公司披露生成式AI訓(xùn)練數(shù)據(jù)的版權(quán)。

英國(guó)組建“人工智能基礎(chǔ)模型工作組”（AI Foundation Model Taskforce），研究人工智能帶來(lái)的安全風(fēng)險(xiǎn)，研究安全開(kāi)發(fā)人工智能的方法，并為制定國(guó)際安全準(zhǔn)則提供信息。

美國(guó)也在加速準(zhǔn)備關(guān)于人工智能的監(jiān)管立法框架。2022年10月，美國(guó)推出《人工智能權(quán)利法案藍(lán)圖》，關(guān)注技術(shù)下的隱私保護(hù)和公平性原則。而在今年6月歐盟通過(guò)《人工智能法案》之后，美國(guó)加速了推進(jìn)AI監(jiān)管的步伐，預(yù)計(jì)將于今夏推出一些政策行動(dòng)。

今年4月，中國(guó)也就《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》向社會(huì)公開(kāi)征求意見(jiàn)，征求意見(jiàn)稿中提到包括：生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，防止生成虛假信息；用于訓(xùn)練生成式人工智能的數(shù)據(jù)，應(yīng)當(dāng)保證數(shù)據(jù)的真實(shí)性、準(zhǔn)確性等內(nèi)容。

但也有政府并不急于制定AI法規(guī)。例如新加坡政府在近日就表示，目前沒(méi)有制定AI法規(guī)的想法。但同時(shí)，新加坡政府在努力促進(jìn)“負(fù)責(zé)任地”使用人工智能，并與企業(yè)合作開(kāi)發(fā)了全球首個(gè)AI測(cè)試工具包，讓用戶(hù)可以對(duì)AI模型進(jìn)行技術(shù)測(cè)試并記錄過(guò)程檢查。

對(duì)AI監(jiān)管的呼吁外，也有觀點(diǎn)提出擔(dān)憂(yōu)，法規(guī)與監(jiān)管是否會(huì)限制AI創(chuàng)新發(fā)展？

例如圓桌論壇上，英國(guó)人工智能公司CausaLens的CEO Darko Matovski表示，一個(gè)很好的監(jiān)管技術(shù)如果用不正確的方式落實(shí)，可能會(huì)對(duì)新技術(shù)帶來(lái)影響?！耙?guī)則的落實(shí)會(huì)決定AI的未來(lái)。必須要用正確的、實(shí)際的方式進(jìn)行監(jiān)管，否則就會(huì)磨滅創(chuàng)新?！?

東軟集團(tuán)董事長(zhǎng)劉積仁也從技術(shù)開(kāi)發(fā)的角度建議：“技術(shù)的發(fā)展需要給技術(shù)開(kāi)發(fā)者一定空間，讓他們先走一步，探索未知的領(lǐng)域。”

關(guān)鍵詞：