南方財(cái)經(jīng)全媒體記者吳立洋上海報(bào)道

2024年3月16日上午，“AI善治論壇人工智能法律治理前瞻”專題研討會(huì)在北京舉辦。會(huì)上，由中國(guó)政法大學(xué)數(shù)據(jù)法治研究院、西北政法大學(xué)法治學(xué)院、中國(guó)信息通信研究院、北京航空航天大學(xué)法學(xué)院等單位專家聯(lián)合起草的《中華人民共和國(guó)人工智能法（學(xué)者建議稿）》（以下簡(jiǎn)稱“建議稿”）正式發(fā)布。

自從2022年人工智能大模型熱潮興起以來，在深刻影響科技發(fā)展、積極與現(xiàn)有產(chǎn)業(yè)融合的同時(shí)，技術(shù)的高速迭代也衍生出多重治理問題。在本次研討會(huì)上，多位專家學(xué)者在介紹建議稿條款內(nèi)容的同時(shí)，也根據(jù)自身的研究?jī)?nèi)容和產(chǎn)業(yè)實(shí)踐中出現(xiàn)的具體問題提出了自己的觀點(diǎn)。從這些發(fā)言與觀點(diǎn)，亦可一窺當(dāng)前人工智能產(chǎn)業(yè)發(fā)展面臨的不同層次問題，以及在法律層面對(duì)其進(jìn)行治理的多元化思路。

監(jiān)管應(yīng)以人的要素為中心

縱觀本輪人工智能發(fā)展浪潮中社會(huì)關(guān)注的焦點(diǎn)問題，除技術(shù)發(fā)展問題外，個(gè)人信息保護(hù)、AI是否會(huì)取代人類、知識(shí)產(chǎn)權(quán)保護(hù)等問題，均與人在和AI相處中的權(quán)益保護(hù)息息相關(guān)。本次研討會(huì)上，多位與會(huì)專家在發(fā)言中也提到，當(dāng)前對(duì)AI的治理需圍繞人類在數(shù)字社會(huì)的基本權(quán)益保障展開，強(qiáng)調(diào)科技倫理對(duì)技術(shù)發(fā)展中衍生出的各類問題的預(yù)防和抑制作用。

例如在本次發(fā)布的建議稿中，第三章就重點(diǎn)提及了“使用者權(quán)益保護(hù)”。北京航空航天大學(xué)法學(xué)院院長(zhǎng)助理、副教授趙精武在介紹相關(guān)內(nèi)容時(shí)表示，其中蘊(yùn)含的治理思路包括：

一是將平等權(quán)作為使用者權(quán)益保護(hù)的首項(xiàng)權(quán)利，能夠預(yù)防“唯數(shù)據(jù)主義”導(dǎo)致的人工智能產(chǎn)品、服務(wù)被應(yīng)用于不合理、不科學(xué)的社會(huì)群體分類目的；二是將知情權(quán)作為使用者權(quán)益保護(hù)的重要內(nèi)容之一，因?yàn)樵擁?xiàng)權(quán)利是使用者行使其他權(quán)利的前提條件；三是正面回應(yīng)生成內(nèi)容知識(shí)產(chǎn)權(quán)問題，采用“按照貢獻(xiàn)程度”的動(dòng)態(tài)認(rèn)定模式明確相關(guān)的權(quán)利主體，并明確否定了人工智能作為權(quán)利主體的可能性；四是關(guān)注勞動(dòng)者和數(shù)字弱勢(shì)群體權(quán)益保護(hù)，明確規(guī)定禁止用人單位侵害勞動(dòng)者的合法權(quán)益，尤其是利用人工智能技術(shù)對(duì)勞動(dòng)者的工作情況開展不合理、不合法的監(jiān)控活動(dòng)。

中南財(cái)經(jīng)政法大學(xué)知識(shí)產(chǎn)權(quán)研究中心徐小奔副教授則重點(diǎn)強(qiáng)調(diào)人工智能開發(fā)者與提供者的義務(wù)與規(guī)范，他指出，建議稿中重點(diǎn)區(qū)分了一般人工智能和關(guān)鍵人工智能，強(qiáng)調(diào)關(guān)鍵人工智能需要在組織機(jī)構(gòu)、風(fēng)險(xiǎn)評(píng)估、風(fēng)險(xiǎn)披露、安全應(yīng)急處理等方面所應(yīng)該承擔(dān)的關(guān)鍵義務(wù)，同時(shí)應(yīng)該在不同行業(yè)領(lǐng)域?qū)﹃P(guān)鍵人工智能作出特別規(guī)范。

北京大學(xué)法學(xué)院副院長(zhǎng)、副教授戴昕則認(rèn)為，要建設(shè)比較客觀的認(rèn)知環(huán)境，使用戶或者公眾理解如何規(guī)范應(yīng)用人工智能。如果有風(fēng)險(xiǎn)，應(yīng)當(dāng)明確風(fēng)險(xiǎn)的具體指向。此外，可以結(jié)合保險(xiǎn)機(jī)制設(shè)計(jì)責(zé)任救濟(jì)制度，在結(jié)合保險(xiǎn)與合規(guī)免責(zé)的基礎(chǔ)上，可以考慮運(yùn)行成本更低的嚴(yán)格責(zé)任，避免人工智能領(lǐng)域過錯(cuò)責(zé)任認(rèn)定帶來的復(fù)雜問題。

以治理推動(dòng)發(fā)展

除了在數(shù)字化時(shí)代保障個(gè)人權(quán)益外，當(dāng)前人工智能治理的一大重點(diǎn)方向是促進(jìn)技術(shù)的進(jìn)一步發(fā)展與應(yīng)用。有別于此前其他技術(shù)革新，人工智能發(fā)展既有賴于數(shù)據(jù)的累積和算法的迭代，也需要在實(shí)際應(yīng)用中找到與人類社會(huì)的結(jié)合點(diǎn)，通過更廣泛地應(yīng)用實(shí)現(xiàn)自我進(jìn)化。因此，在當(dāng)前的治理思路下，如何兼顧合規(guī)與發(fā)展，是規(guī)范人工智能產(chǎn)業(yè)發(fā)展的關(guān)鍵問題。

中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒表示，目前全球激烈競(jìng)爭(zhēng)的格局下，“不發(fā)展是最大的不安全”。我國(guó)人工智能產(chǎn)業(yè)“領(lǐng)先的追趕者”的獨(dú)特國(guó)際生態(tài)位要求我們?cè)诩夹g(shù)和產(chǎn)業(yè)的國(guó)際競(jìng)爭(zhēng)中必須以發(fā)展為制度設(shè)計(jì)的主要目標(biāo)，安全問題也需要通過技術(shù)發(fā)展來回應(yīng)和解決。

結(jié)合建議法第五章“監(jiān)督管理”內(nèi)容，中國(guó)信通院政策與經(jīng)濟(jì)研究所高級(jí)工程師程瑩表示，可以從以下三方面構(gòu)建相關(guān)管理體系：其一，建立人工智能監(jiān)管統(tǒng)籌協(xié)調(diào)機(jī)制，發(fā)揮其在戰(zhàn)略規(guī)劃、風(fēng)險(xiǎn)管控、規(guī)則制定、社會(huì)服務(wù)體系建立等方面的總體協(xié)調(diào)作用；其二，建立分級(jí)分類監(jiān)管制度，根據(jù)技術(shù)發(fā)展、行業(yè)領(lǐng)域、應(yīng)用場(chǎng)景等因素動(dòng)態(tài)調(diào)整人工智能分級(jí)分類標(biāo)準(zhǔn)；其三，完善監(jiān)管沙箱試點(diǎn)制度，一方面在準(zhǔn)入條件、風(fēng)險(xiǎn)評(píng)估、審計(jì)、法律責(zé)任等方面給予主體相應(yīng)便利、激勵(lì)或者責(zé)任減免，為人工智能技術(shù)產(chǎn)業(yè)發(fā)展提供寬松環(huán)境；另一方面加強(qiáng)風(fēng)險(xiǎn)管控和評(píng)估評(píng)測(cè)，統(tǒng)籌建立國(guó)家人工智能評(píng)估評(píng)測(cè)平臺(tái)，發(fā)揮多元協(xié)同力量。

“在把控風(fēng)險(xiǎn)的同時(shí)，也要促進(jìn)人工智能發(fā)展。” 中國(guó)人民大學(xué)未來法治研究院執(zhí)行院長(zhǎng)、法學(xué)院副教授張吉豫認(rèn)為，事前的科技倫理審查確有必要，但可以考慮刪除一些不必要的事前義務(wù)。對(duì)于所有大型基礎(chǔ)模型未來是否都進(jìn)行較嚴(yán)的監(jiān)管是需要考慮的，并非所有人工智能均需要備案，備案是進(jìn)入市場(chǎng)的前置要求還是僅為一項(xiàng)待完成的任務(wù)有待思考。從促發(fā)展的角度而言，監(jiān)管行為本身的規(guī)范也是比較重要的方面。

中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春則建議，一方面，在立法上構(gòu)建支撐人工智能發(fā)展的促進(jìn)型基礎(chǔ)設(shè)施，例如建立促進(jìn)高質(zhì)量數(shù)據(jù)集合的生產(chǎn)和獲取、促進(jìn)算力資源優(yōu)化分配的基礎(chǔ)機(jī)制等；另一方面，在承擔(dān)加重義務(wù)的特定類型人工智能部分，例如關(guān)鍵人工智能、通用人工智能、特殊類型人工智能等，建議明確科學(xué)、清晰、風(fēng)險(xiǎn)導(dǎo)向的基礎(chǔ)概念和類型，為人工智能產(chǎn)業(yè)快速健康發(fā)展樹立具有較強(qiáng)確定性的規(guī)則和責(zé)任機(jī)制。