6月27日-29日,2023年夏季達(dá)沃斯世界經(jīng)濟(jì)論壇在中國(guó)天津召開(kāi),主題為“企業(yè)家精神:世界經(jīng)濟(jì)驅(qū)動(dòng)力”。此次會(huì)議匯聚全球近100個(gè)國(guó)家和地區(qū)的1500多名政商學(xué)界精英領(lǐng)袖們,也是自2019年以來(lái)夏季達(dá)沃斯首次回到線下舉行。
(資料圖)
面對(duì)當(dāng)前世界低增長(zhǎng)、生活成本高漲、地緣政治分化加劇、不平等擴(kuò)大以及氣候和自然危機(jī)日益嚴(yán)重的影響,等相互交織的危機(jī),達(dá)沃斯世界經(jīng)濟(jì)論壇旨在通過(guò)搭建對(duì)話、呼吁創(chuàng)新與恢復(fù)合作的方式,應(yīng)對(duì)共同挑戰(zhàn),重振全球經(jīng)濟(jì)增長(zhǎng)。
澎湃研究所研究員在達(dá)沃斯現(xiàn)場(chǎng)發(fā)現(xiàn),新興科技的發(fā)展以及它所帶來(lái)的政治經(jīng)濟(jì)影響,是本屆達(dá)沃斯眾多論壇中的一大焦點(diǎn)。在為期3天的達(dá)沃斯時(shí)間中,彌漫著對(duì)新興技術(shù)的喜與憂(yōu)。
2023年6月27日,天津,第十四屆夏季達(dá)沃斯論壇舉辦。視覺(jué)中國(guó) 圖
你也信過(guò)AI說(shuō)的慌嗎?
2022年末ChatGPT的橫空出世,令生成式人工智能走進(jìn)全球的聚光燈下。除了對(duì)話類(lèi)生成式人工智能,其代表技術(shù)還包括在文化創(chuàng)作中的自動(dòng)創(chuàng)作,在圖像應(yīng)用上的深度偽造等。
生成式人工智能的時(shí)代已經(jīng)到來(lái),隨著時(shí)間推移,它進(jìn)一步改變甚至顛覆各行各業(yè),好的一方面是,它將提高生產(chǎn)力,開(kāi)啟一個(gè)創(chuàng)新新時(shí)代;但另一方面,許多工作將受到?jīng)_擊與重新定位,技術(shù)的不透明也會(huì)引發(fā)信任危機(jī)等。
在“生成式人工智能:是敵是友?”的圓桌論壇上,AI教育公司Learnable董事長(zhǎng)王冠表示,AI可以幫助人類(lèi),以其所在的教育領(lǐng)域?yàn)槔?,雖然教師與學(xué)生的互動(dòng)和情感無(wú)法被替代,但在批改試卷和輔助教學(xué)上AI可以幫助教師。AI比人類(lèi)成本更低、效率更高,可以更大規(guī)模地進(jìn)行部署?!吧踔料乱徊娇梢詰?yīng)用于中國(guó)的高考批改中?!蓖瑫r(shí),他相信,隨著AI產(chǎn)品更加成熟,產(chǎn)品價(jià)格會(huì)變得更加便宜,也許一塊平板電腦就能彌合中國(guó)城鄉(xiāng)間的教育資源差距。
但王冠也指出,垂直行業(yè)的AI與目前OpenAI(ChatGPT制造商)的不同之處在于,現(xiàn)在用戶(hù)能夠容忍O(píng)penAI的并非百分百準(zhǔn)確,“但在教育領(lǐng)域不能冒險(xiǎn)”。同樣不能出差錯(cuò)的還包括醫(yī)療、自動(dòng)駕駛等多個(gè)垂直領(lǐng)域。
“幾年前大家一直把第四次工業(yè)革命掛在嘴邊,”從事自然語(yǔ)言處理30多年的香港科技大學(xué)電子和計(jì)算機(jī)工程系主任教授馮雁說(shuō),“如今生成式AI的出現(xiàn),我覺(jué)得超過(guò)工業(yè)范疇,它所帶來(lái)的沖擊是屬于人類(lèi)文明的下一個(gè)革命?!倍鳤I與人的區(qū)別在于,它們沒(méi)有豐富的內(nèi)心世界。雖然AI在認(rèn)知層面做任務(wù),完全可以與人類(lèi)大腦并論,但是機(jī)器不給提示,它什么都不會(huì)做。
同時(shí),馮雁指出目前的語(yǔ)言模型所存在的問(wèn)題。首先是不透明,對(duì)用戶(hù)的不透明導(dǎo)致人們對(duì)智能技術(shù)的信任危機(jī);對(duì)研究者、學(xué)者也不透明,這意味著無(wú)法預(yù)期AI生成的答案。通過(guò)對(duì)標(biāo)研究,馮雁團(tuán)隊(duì)發(fā)現(xiàn),選擇的提示詞不同,會(huì)導(dǎo)致不同的答案,這被他們稱(chēng)為AI出現(xiàn)“幻覺(jué)”的現(xiàn)象。生成式AI會(huì)按照指令生成指令者任何想要的內(nèi)容,有些是基于客觀事實(shí)存在的,但有些是編造的。
“我也曾相信過(guò)ChatGPT說(shuō)的謊?!瘪T雁表示,減少AI的幻覺(jué),成為研究者們的一大努力方向。
第二,ChatGPT的回答中帶有偏見(jiàn)與惡意。某種程度上,ChatGPT的答案反映的是社會(huì)現(xiàn)狀,所以也包含著當(dāng)下存在的社會(huì)偏見(jiàn)。例如,清華大學(xué)交叉信息研究院助理教授于洋曾對(duì)澎湃新聞 表示,AI的性別歧視主要源于:1)供AI學(xué)習(xí)訓(xùn)練的數(shù)據(jù)本身具有性別偏見(jiàn),也成為社會(huì)現(xiàn)實(shí)的一個(gè)反射;2)設(shè)計(jì)開(kāi)發(fā)者主要為白人中青年男性,對(duì)第三世界、邊緣群體的關(guān)注不到位;3)算法本身的不足,也加劇歧視。
馮雁還指出,大型語(yǔ)言模型大多數(shù)基于英文數(shù)據(jù),除了中文與西語(yǔ)作為另外兩大被廣泛運(yùn)用的語(yǔ)言外,小眾語(yǔ)言在網(wǎng)絡(luò)上的數(shù)據(jù)相對(duì)有限,也局限了其自然語(yǔ)言處理上的發(fā)展。馮雁建議,政府應(yīng)助力加強(qiáng)其他語(yǔ)言的資源,讓更多的語(yǔ)言有更多更好的模型。“我們現(xiàn)在不想看到經(jīng)濟(jì)上的貧富差距,復(fù)制到模型上的差距。”。
除了嘉賓們提及的生成式AI會(huì)“產(chǎn)生幻覺(jué)”、“說(shuō)謊”、帶有社會(huì)偏見(jiàn)之外,更令人擔(dān)憂(yōu)的也許不是技術(shù)本身,而是技術(shù)被人另作他用的風(fēng)險(xiǎn)。例如IBM大中華區(qū)董事長(zhǎng)兼總經(jīng)理陳旭東稱(chēng),IBM很早開(kāi)始研究AI背后的風(fēng)險(xiǎn)以及AI倫理。對(duì)此,IBM放棄了對(duì)人臉識(shí)別的研究,因?yàn)檫@項(xiàng)技術(shù)可能會(huì)被非法利用。
可見(jiàn),技術(shù)狂奔之下,技術(shù)治理應(yīng)該跟上步伐。如何保護(hù)科技倫理、數(shù)據(jù)隱私和知識(shí)產(chǎn)權(quán)等諸多問(wèn)題,正成為政商學(xué)各界共同關(guān)注的焦點(diǎn)。
在另一場(chǎng)“擁抱人工智能革命,提高人工智能水平”的圓桌討論上,話題聚焦在哪些框架和做法能幫助快速提高國(guó)家的人工智能的治理水平?——誰(shuí)來(lái)監(jiān)管?如何監(jiān)管?如何兼顧創(chuàng)新與安全?——這些追問(wèn)成為話題的風(fēng)暴中心。
擁抱AI革命,各國(guó)監(jiān)管方式不一
互聯(lián)網(wǎng)世界是否值得信任?
在世界經(jīng)濟(jì)論壇的《互聯(lián)世界狀況(2023 年版)》調(diào)查報(bào)告中,超過(guò)八成的受訪者表示,對(duì)負(fù)責(zé)任地使用互聯(lián)設(shè)備生成的數(shù)據(jù)缺乏信心。而如果消費(fèi)者不信任這些設(shè)備,那么就難以大規(guī)模擴(kuò)展這些設(shè)備帶來(lái)的益處。
巴斯大學(xué)計(jì)算機(jī)科學(xué)系副教授Joanna Bryson表示,數(shù)字行業(yè)長(zhǎng)期來(lái)沒(méi)有足夠的規(guī)范,人們使用的很多平臺(tái),如郵箱、社交平臺(tái),運(yùn)營(yíng)并不透明。她指出大眾不信任AI是因?yàn)楂@取的信息還不夠透明,建議推出一種“透明度文化”。同時(shí),她也呼吁政府出臺(tái)對(duì)技術(shù)的監(jiān)管,以確保新的AI公司以合規(guī)的方式使用新技術(shù)。
盧旺達(dá)信息通信技術(shù)與創(chuàng)新部部長(zhǎng)Paula Ingabire表示,數(shù)據(jù)是AI的核心,如何讓數(shù)據(jù)被業(yè)界合理使用至關(guān)重要。盧旺達(dá)政府推出數(shù)據(jù)管理平臺(tái),平衡技術(shù)創(chuàng)新和個(gè)人數(shù)據(jù)保護(hù),例如通過(guò)統(tǒng)一全國(guó)醫(yī)療機(jī)構(gòu)的病歷,建立病歷信息交換平臺(tái),通過(guò)數(shù)據(jù)隱私保護(hù)法律,最終讓數(shù)據(jù)所有權(quán)屬于病患本人。
Paula Ingabire也提出,AI監(jiān)管應(yīng)由政府牽頭,制定合理的方案?!捌鋵?shí)政府也無(wú)法單打獨(dú)斗,必須要和企業(yè)合作,私營(yíng)部門(mén)的力量也要進(jìn)來(lái)?!?
澎湃研究所研究員梳理發(fā)現(xiàn),不同國(guó)家對(duì)AI的監(jiān)管治理方式不一。歐盟已通過(guò)人工智能法案,多國(guó)加速研究監(jiān)管框架,也有國(guó)家并不急于監(jiān)管。
歐盟于今年6月通過(guò)《人工智能法案》(AI Act),對(duì)AI及其相關(guān)應(yīng)用進(jìn)行分級(jí)風(fēng)險(xiǎn)管理,基于風(fēng)險(xiǎn)劃分的四種等級(jí)分別為被禁止、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)、低風(fēng)險(xiǎn)。其中,實(shí)時(shí)遠(yuǎn)程生物識(shí)別技術(shù)(即公開(kāi)場(chǎng)合人臉識(shí)別)被設(shè)為“被禁止”級(jí)別,對(duì)生成式AI(例如ChatGPT)提出必須對(duì)生成的內(nèi)容進(jìn)行標(biāo)注,以區(qū)別“深度偽造信息”,并要求公司披露生成式AI訓(xùn)練數(shù)據(jù)的版權(quán)。
英國(guó)組建“人工智能基礎(chǔ)模型工作組”(AI Foundation Model Taskforce),研究人工智能帶來(lái)的安全風(fēng)險(xiǎn),研究安全開(kāi)發(fā)人工智能的方法,并為制定國(guó)際安全準(zhǔn)則提供信息。
美國(guó)也在加速準(zhǔn)備關(guān)于人工智能的監(jiān)管立法框架。2022年10月,美國(guó)推出《人工智能權(quán)利法案藍(lán)圖》,關(guān)注技術(shù)下的隱私保護(hù)和公平性原則。而在今年6月歐盟通過(guò)《人工智能法案》之后,美國(guó)加速了推進(jìn)AI監(jiān)管的步伐,預(yù)計(jì)將于今夏推出一些政策行動(dòng)。
今年4月,中國(guó)也就《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》向社會(huì)公開(kāi)征求意見(jiàn),征求意見(jiàn)稿中提到包括:生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確,防止生成虛假信息;用于訓(xùn)練生成式人工智能的數(shù)據(jù),應(yīng)當(dāng)保證數(shù)據(jù)的真實(shí)性、準(zhǔn)確性等內(nèi)容。
但也有政府并不急于制定AI法規(guī)。例如新加坡政府在近日就表示,目前沒(méi)有制定AI法規(guī)的想法。但同時(shí),新加坡政府在努力促進(jìn)“負(fù)責(zé)任地”使用人工智能,并與企業(yè)合作開(kāi)發(fā)了全球首個(gè)AI測(cè)試工具包,讓用戶(hù)可以對(duì)AI模型進(jìn)行技術(shù)測(cè)試并記錄過(guò)程檢查。
對(duì)AI監(jiān)管的呼吁外,也有觀點(diǎn)提出擔(dān)憂(yōu),法規(guī)與監(jiān)管是否會(huì)限制AI創(chuàng)新發(fā)展?
例如圓桌論壇上,英國(guó)人工智能公司CausaLens的CEO Darko Matovski表示,一個(gè)很好的監(jiān)管技術(shù)如果用不正確的方式落實(shí),可能會(huì)對(duì)新技術(shù)帶來(lái)影響?!耙?guī)則的落實(shí)會(huì)決定AI的未來(lái)。必須要用正確的、實(shí)際的方式進(jìn)行監(jiān)管,否則就會(huì)磨滅創(chuàng)新?!?
東軟集團(tuán)董事長(zhǎng)劉積仁也從技術(shù)開(kāi)發(fā)的角度建議:“技術(shù)的發(fā)展需要給技術(shù)開(kāi)發(fā)者一定空間,讓他們先走一步,探索未知的領(lǐng)域。”
關(guān)鍵詞:
新聞發(fā)布平臺(tái) |科極網(wǎng) |環(huán)球周刊網(wǎng) |中國(guó)創(chuàng)投網(wǎng) |教體產(chǎn)業(yè)網(wǎng) |中國(guó)商界網(wǎng) |萬(wàn)能百科 |薄荷網(wǎng) |資訊_時(shí)尚網(wǎng) |連州財(cái)經(jīng)網(wǎng) |劇情啦 |5元服裝包郵 |中華網(wǎng)河南 |網(wǎng)購(gòu)省錢(qián)平臺(tái) |海淘返利 |太平洋裝修網(wǎng) |勵(lì)普網(wǎng)校 |九十三度白茶網(wǎng) |商標(biāo)注冊(cè) |專(zhuān)利申請(qǐng) |啟哈號(hào) |速挖投訴平臺(tái) |深度財(cái)經(jīng)網(wǎng) |深圳熱線 |財(cái)報(bào)網(wǎng) |財(cái)報(bào)網(wǎng) |財(cái)報(bào)網(wǎng) |咕嚕財(cái)經(jīng) |太原熱線 |電路維修 |防水補(bǔ)漏 |水管維修 |墻面翻修 |舊房維修 |參考經(jīng)濟(jì)網(wǎng) |中原網(wǎng)視臺(tái) |財(cái)經(jīng)產(chǎn)業(yè)網(wǎng) |全球經(jīng)濟(jì)網(wǎng) |消費(fèi)導(dǎo)報(bào)網(wǎng) |外貿(mào)網(wǎng) |重播網(wǎng) |國(guó)際財(cái)經(jīng)網(wǎng) |星島中文網(wǎng) |手機(jī)測(cè)評(píng) |品牌推廣 |名律網(wǎng) |項(xiàng)目大全 |整形資訊 |整形新聞 |美麗網(wǎng) |佳人網(wǎng) |稅法網(wǎng) |法務(wù)網(wǎng) |法律服務(wù) |法律咨詢(xún) |成報(bào)網(wǎng) |媒體采購(gòu)網(wǎng) |聚焦網(wǎng) |參考網(wǎng) |熱點(diǎn)網(wǎng)
亞洲資本網(wǎng) 版權(quán)所有
Copyright © 2011-2020 亞洲資本網(wǎng) All Rights Reserved. 聯(lián)系網(wǎng)站:55 16 53 8 @qq.com