服務(wù)提供者不得根據(jù)用戶(hù)輸入信息和使用情況進(jìn)行畫(huà)像（副題）

4月11日，國(guó)家網(wǎng)信辦就《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（以下簡(jiǎn)稱(chēng)《征求意見(jiàn)稿》）公開(kāi)征求意見(jiàn)，《征求意見(jiàn)稿》共21條，對(duì)生成式人工智能產(chǎn)業(yè)給出較為詳盡的規(guī)定，其中包括定義、準(zhǔn)入資格、責(zé)任義務(wù)和處罰措施等。

(資料圖片僅供參考)

產(chǎn)品向公眾提供服務(wù)前應(yīng)申報(bào)安全評(píng)估

《征求意見(jiàn)稿》中首先明確，“生成式人工智能”是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。

其對(duì)生成式人工智能產(chǎn)業(yè)持支持和鼓勵(lì)態(tài)度：國(guó)家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國(guó)際合作，鼓勵(lì)優(yōu)先采用安全可信的軟件、工具、計(jì)算和數(shù)據(jù)資源。

在準(zhǔn)入資格方面，《征求意見(jiàn)稿》提到，利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)當(dāng)按照《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》向國(guó)家網(wǎng)信部門(mén)申報(bào)安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷(xiāo)備案手續(xù)。

生成式人工智能產(chǎn)品研制中采用人工標(biāo)注時(shí)，提供者應(yīng)當(dāng)制定清晰、具體、可操作的標(biāo)注規(guī)則，對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn)，抽樣核驗(yàn)標(biāo)注內(nèi)容的正確性。

采取措施防止生成虛假信息 不利用生成內(nèi)容損害他人形象

《征求意見(jiàn)稿》還提到，利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息。提供者應(yīng)當(dāng)指導(dǎo)用戶(hù)科學(xué)認(rèn)識(shí)和理性使用生成式人工智能生成的內(nèi)容，不利用生成內(nèi)容損害他人形象、名譽(yù)以及其他合法權(quán)益，不進(jìn)行商業(yè)炒作、不正當(dāng)營(yíng)銷(xiāo)。

提供者需要提供可以影響用戶(hù)信任、選擇的必要信息，包括預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的來(lái)源、規(guī)模、類(lèi)型、質(zhì)量等描述，人工標(biāo)注規(guī)則，人工標(biāo)注數(shù)據(jù)的規(guī)模和類(lèi)型，基礎(chǔ)算法和技術(shù)體系等。

提供者應(yīng)當(dāng)對(duì)生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來(lái)源的合法性負(fù)責(zé)。

禁止非法獲取、披露、利用個(gè)人信息和隱私、商業(yè)秘密

在責(zé)任和義務(wù)方面，《征求意見(jiàn)稿》尤為強(qiáng)調(diào)對(duì)個(gè)人數(shù)據(jù)和信息的保護(hù)。

其提到，提供者在提供服務(wù)過(guò)程中，對(duì)用戶(hù)的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)。不得非法留存能夠推斷出用戶(hù)身份的輸入信息，不得根據(jù)用戶(hù)輸入信息和使用情況進(jìn)行畫(huà)像，不得向他人提供用戶(hù)輸入信息。

數(shù)據(jù)包含個(gè)人信息的，應(yīng)當(dāng)征得個(gè)人信息主體同意或者符合法律、行政法規(guī)規(guī)定的其他情形。

同時(shí)，必須尊重他人合法利益，防止傷害他人身心健康，損害肖像權(quán)、名譽(yù)權(quán)和個(gè)人隱私，侵犯知識(shí)產(chǎn)權(quán)。禁止非法獲取、披露、利用個(gè)人信息和隱私、商業(yè)秘密。

《征求意見(jiàn)稿》還對(duì)違反規(guī)定者給出處罰措施。

其中提到，提供者發(fā)現(xiàn)用戶(hù)利用生成式人工智能產(chǎn)品過(guò)程中違反法律法規(guī)，違背商業(yè)道德、社會(huì)公德行為時(shí)，包括從事網(wǎng)絡(luò)炒作、惡意發(fā)帖跟評(píng)、制造垃圾郵件、編寫(xiě)惡意軟件，實(shí)施不正當(dāng)?shù)纳虡I(yè)營(yíng)銷(xiāo)等，應(yīng)當(dāng)暫停或者終止服務(wù)。

違反本辦法規(guī)定的共有三種處罰措施：其一，法律、行政法規(guī)沒(méi)有規(guī)定的，由網(wǎng)信部門(mén)和有關(guān)主管部門(mén)依據(jù)職責(zé)給予警告、通報(bào)批評(píng)，責(zé)令限期改正。其二，拒不改正或者情節(jié)嚴(yán)重的，責(zé)令暫停或者終止其利用生成式人工智能提供服務(wù)，并處一萬(wàn)元以上十萬(wàn)元以下罰款。其三，構(gòu)成違反治安管理行為的，依法給予治安管理處罰；構(gòu)成犯罪的，依法追究刑事責(zé)任。（文/記者? 熊穎琪）

關(guān)鍵詞：