記者鄭雪北京報(bào)道

今年2月文生視頻大模型Sora發(fā)布，再次引發(fā)全球AI熱潮。熱浪之下，人工智能如何朝著正確的方向行進(jìn)？

人工智能算法監(jiān)管或是可行路徑之一。算法，對(duì)于公眾而言既陌生又熟悉。算法具有非常強(qiáng)的專(zhuān)業(yè)性及不可解釋性，但日常生活，每個(gè)人都在不時(shí)接受不同應(yīng)用場(chǎng)景下的各種算法結(jié)果。此外，對(duì)于人工智能產(chǎn)業(yè)發(fā)展而言，作為加速器的算法和數(shù)據(jù)、算力共同作用推動(dòng)智能涌現(xiàn)。基于此，全國(guó)政協(xié)委員、金杜律師事務(wù)所高級(jí)合伙人張毅帶來(lái)了《關(guān)于進(jìn)一步完善人工智能算法治理體系的提案》。

張毅在接受記者專(zhuān)訪時(shí)表示，當(dāng)前我國(guó)人工智能算法治理存在法律法規(guī)效力層級(jí)不高、監(jiān)管機(jī)構(gòu)監(jiān)管競(jìng)合、監(jiān)管真空或失焦、用戶(hù)權(quán)利難以充分救濟(jì)等問(wèn)題，可從健全算法綜合治理體系、優(yōu)化監(jiān)管工具、加強(qiáng)用戶(hù)權(quán)益保護(hù)等方面著手完善。

在產(chǎn)業(yè)發(fā)展和監(jiān)管平衡方面，張毅表示要設(shè)置“包容審慎邊界——?jiǎng)澏ò踩拙€”的剛?cè)岵?jì)路徑。一方面，要逐步明確行政程序規(guī)則，讓監(jiān)管治理成為人工智能安全發(fā)展的“穩(wěn)定器”；另一方面，全球產(chǎn)業(yè)競(jìng)爭(zhēng)加劇之下，警惕過(guò)于強(qiáng)勢(shì)的法律干預(yù)成為人工智能發(fā)展的“緊箍咒”。

強(qiáng)化源頭治理，實(shí)現(xiàn)前中后監(jiān)管閉環(huán)

21世紀(jì)：伴隨人工智能快速發(fā)展，人工智能監(jiān)管也在全球競(jìng)速。在您觀察來(lái)看，全球人工智能監(jiān)管有何異同？

張毅：從監(jiān)管進(jìn)程來(lái)看，目前全球人工智能監(jiān)管尚處于不斷變化的立法活躍期。除我國(guó)已制定全球首部針對(duì)生成式人工智能的法規(guī)《生成式人工智能服務(wù)管理暫行辦法》外，歐盟、英國(guó)、美國(guó)等主要司法轄區(qū)均處于探索和制定人工智能監(jiān)管規(guī)則的不同階段。

回過(guò)頭看，全球人工智能監(jiān)管在近幾年內(nèi)經(jīng)歷了從分散林立的差異化規(guī)則，到相互影響融匯并求同存異的過(guò)程。

盡管由于各國(guó)的人工智能產(chǎn)業(yè)發(fā)展情況與監(jiān)管動(dòng)因等因素不同，存在諸多具體監(jiān)管規(guī)則的差異。這包括但不限于各國(guó)對(duì)于采取縱向或橫向的立法模式、人工智能的風(fēng)險(xiǎn)認(rèn)知框架，以及對(duì)開(kāi)源模型的監(jiān)管方法等議題存在不同的立場(chǎng)。

但從近期的立法動(dòng)態(tài)來(lái)看，可以觀察到全球范圍內(nèi)正在努力建立人工智能監(jiān)管共識(shí)。一方面，國(guó)外諸多司法轄區(qū)正在從以政策倡議、行業(yè)自律等“軟法”為主導(dǎo)逐步轉(zhuǎn)向制定正式立法的“軟法”與“硬法”協(xié)同治理模式。另一方面，還可以看到區(qū)域性、國(guó)際性的人工智能監(jiān)管共識(shí)的凝聚，這是由于人工智能其實(shí)是國(guó)際社會(huì)共同面臨的治理難題。

21世紀(jì)：人工智能算法治理方面，我國(guó)算法治理目前存在哪些問(wèn)題？

張毅：作為全球范圍內(nèi)最早開(kāi)展人工智能算法治理的國(guó)家之一，我國(guó)近年來(lái)陸續(xù)針對(duì)算法推薦、深度合成等技術(shù)制定專(zhuān)門(mén)規(guī)范，逐步完善我國(guó)的算法治理體系。但隨著技術(shù)的高速發(fā)展和廣泛應(yīng)用，人工智能算法治理更要體現(xiàn)監(jiān)管智慧和制度優(yōu)勢(shì)，現(xiàn)階段有必要重估新技術(shù)帶來(lái)的新問(wèn)題，更新治理思路并反饋在立法、執(zhí)法等治理實(shí)踐中。

具體而言，我國(guó)算法治理工作可以考慮從立法、執(zhí)法到司法等全流程、多維度的更新和優(yōu)化。比如，在算法監(jiān)管規(guī)定方面，現(xiàn)階段我國(guó)算法治理規(guī)定主要由部門(mén)規(guī)章、規(guī)范性文件等構(gòu)成，缺乏效力層級(jí)較高的立法。在監(jiān)管機(jī)構(gòu)方面，可能有多個(gè)部門(mén)具有執(zhí)法權(quán)力，產(chǎn)生監(jiān)管競(jìng)合。在算法侵害維權(quán)方面，雖然現(xiàn)有規(guī)定對(duì)算法侵害行為作出禁止性規(guī)定，但是被算法侵害的對(duì)象往往面臨“理解難”“取證難”等問(wèn)題，用戶(hù)權(quán)利難以得到充分救濟(jì)。此外，由于人工智能技術(shù)更新迭代快，難以為現(xiàn)有監(jiān)管體系和技術(shù)覆蓋，從而產(chǎn)生監(jiān)管真空或失焦的情況。

21世紀(jì)：在您看來(lái)，當(dāng)前我國(guó)算法治理體系如何予以完善？

張毅：我國(guó)算法治理體系可考慮從健全算法綜合治理體系、優(yōu)化監(jiān)管工具、加強(qiáng)用戶(hù)權(quán)益保護(hù)等方面著手完善。

首先，目前我國(guó)算法監(jiān)管規(guī)定主要關(guān)注具體權(quán)利侵害的結(jié)果維度，暫未結(jié)合算法的特殊性，關(guān)注訓(xùn)練數(shù)據(jù)、科技倫理等源頭性因素可能造成的算法侵害。未來(lái)，應(yīng)當(dāng)增強(qiáng)源頭治理，將算法侵害治理追溯至算法設(shè)計(jì)、研發(fā)等前期過(guò)程，實(shí)現(xiàn)事前、事中和事后的監(jiān)管閉環(huán)。

再者，考慮到算法更迭快、技術(shù)繁復(fù)等因素，可以引入“監(jiān)管沙盒”制度來(lái)允許算法及人工智能企業(yè)在相對(duì)可控的環(huán)境內(nèi)進(jìn)行試驗(yàn)性的開(kāi)發(fā)、測(cè)試和驗(yàn)證，也有助于增進(jìn)監(jiān)管部門(mén)對(duì)技術(shù)發(fā)展的理解。同時(shí)，也可以考慮探索將人工智能技術(shù)應(yīng)用于人工智能監(jiān)管，以提高監(jiān)管效率。

此外，在用戶(hù)權(quán)益保護(hù)方面，可要求服務(wù)提供者優(yōu)化平臺(tái)設(shè)計(jì)，在為用戶(hù)提供算法服務(wù)時(shí)，為用戶(hù)提供便捷的拒絕或關(guān)閉算法服務(wù)的選項(xiàng)，暢通用戶(hù)投訴、申訴渠道。在訴訟環(huán)節(jié)，可嘗試拓展算法侵害行為的維權(quán)路徑與責(zé)任模式，采用“過(guò)錯(cuò)推定”的歸責(zé)原則，實(shí)行“舉證責(zé)任倒置”以減輕用戶(hù)的舉證責(zé)任負(fù)擔(dān)，增強(qiáng)用戶(hù)的維權(quán)力量。

行政機(jī)關(guān)需納入算法監(jiān)管客體

21世紀(jì)：您在提案中寫(xiě)道，當(dāng)前“監(jiān)管客體僅限于互聯(lián)網(wǎng)平臺(tái)等民商事主體提供的算法服務(wù)，不涉及政府機(jī)關(guān)在行政活動(dòng)中運(yùn)用算法的行為”，行政機(jī)關(guān)的算法行為如何監(jiān)管？

張毅：實(shí)踐中，在生成式人工智能的賦能下，算法在行政管理和執(zhí)法的應(yīng)用場(chǎng)景已迅速拓展豐富。例如，目前市場(chǎng)上已有大模型可以實(shí)現(xiàn)由數(shù)字人自動(dòng)化處理政務(wù)熱線中的民生訴求，智能識(shí)別違法行為并完成立案登記等落地場(chǎng)景。

可以預(yù)見(jiàn)，在生成式人工智能的高速發(fā)展態(tài)勢(shì)下，算法在行政管理和執(zhí)法應(yīng)用場(chǎng)景會(huì)更日趨精細(xì)化、多樣化，除可能面臨人工智能應(yīng)用的常規(guī)風(fēng)險(xiǎn)外，也會(huì)對(duì)傳統(tǒng)行政程序、行政相對(duì)人的權(quán)利保障機(jī)制的有效性等提出新的挑戰(zhàn)。

因此，我們可以考慮以充分調(diào)研梳理當(dāng)前算法行政管理和執(zhí)法應(yīng)用場(chǎng)景作為監(jiān)管起點(diǎn)，通過(guò)厘清算法嵌入不同行政行為的具體效應(yīng)、影響和風(fēng)險(xiǎn)，并加以類(lèi)型化分析來(lái)為后續(xù)政策制定及立法提供支撐。

在調(diào)研成果基礎(chǔ)上，我們還建議人工智能算法規(guī)范進(jìn)一步優(yōu)化銜接現(xiàn)行法律制度。一是從責(zé)任主體銜接角度，考慮將行政機(jī)關(guān)納入算法管理規(guī)定的監(jiān)管客體；二是增強(qiáng)與現(xiàn)行行政法律制度的有效銜接，并就此對(duì)算法行政行為采取針對(duì)性規(guī)制。例如，考量如何明確算法行政行為的適用范圍與條件，如何確保其符合我國(guó)政府信息公開(kāi)制度的要求，如何在算法行政行為中確保行政正當(dāng)程序并切實(shí)保障法律賦予行政相對(duì)人的權(quán)利等問(wèn)題。

21世紀(jì)：目前來(lái)看，即便是技術(shù)人員對(duì)AI算法的一些內(nèi)容也無(wú)法作出解釋?zhuān)驅(qū)?dǎo)致“黑箱”加劇。在保障人工智能可解釋性和透明性方面，您認(rèn)為可以采取哪些措施？

張毅：人工智能“算法黑箱”是全球范圍內(nèi)的技術(shù)和治理難題。縱觀全球算法治理趨勢(shì)，增強(qiáng)算法透明仍是一種共同治理取向。在此背景下，可考慮采取如下措施而在一定程度上提高算法的可解釋性和透明性：

就人工智能算法服務(wù)提供者而言，一方面，應(yīng)當(dāng)推動(dòng)相關(guān)主體詳盡地披露算法運(yùn)行步驟、算法運(yùn)行步驟與算法決策之間的因果關(guān)系、使用算法可能對(duì)用戶(hù)權(quán)益造成的影響等內(nèi)容，增強(qiáng)算法對(duì)于用戶(hù)的可知性。考慮到部分算法專(zhuān)業(yè)術(shù)語(yǔ)晦澀難懂，可要求相關(guān)主體通過(guò)示例圖、流程圖等方式及通俗易懂的語(yǔ)言進(jìn)行說(shuō)明。另一方面，企業(yè)在設(shè)計(jì)、研發(fā)人工智能算法時(shí)宜嵌入透明可釋的目標(biāo)，推動(dòng)算法透明的全流程治理。

就監(jiān)管規(guī)則而言，可考慮在分類(lèi)分級(jí)監(jiān)管的基礎(chǔ)上，以人工智能算法類(lèi)型等要素為依據(jù)以制定差異化的透明度規(guī)則，促進(jìn)算法問(wèn)責(zé)的落實(shí)。其中，透明度規(guī)則應(yīng)重點(diǎn)關(guān)注解釋、披露何種內(nèi)容方可實(shí)現(xiàn)用戶(hù)、社會(huì)及監(jiān)管部門(mén)對(duì)算法應(yīng)用影響的理解，而非要求披露對(duì)于理解算法影響效果較為有限的純粹技術(shù)信息，從而在充分權(quán)衡商業(yè)秘密、知識(shí)產(chǎn)權(quán)保護(hù)等的基礎(chǔ)上保障用戶(hù)權(quán)益及社會(huì)公共利益。

以剛?cè)岵?jì)平衡發(fā)展與安全

21世紀(jì)：此輪人工智能發(fā)展展示了“大力出奇跡”的暴力美學(xué)，海量數(shù)據(jù)（603138）、算力、算法作用下，智能涌現(xiàn)。中國(guó)在數(shù)據(jù)、算力等方面具有豐富積累，在您看來(lái)，如何發(fā)揮上述優(yōu)勢(shì)推動(dòng)人工智能發(fā)展？

張毅：數(shù)據(jù)與算力作為我國(guó)數(shù)字經(jīng)濟(jì)時(shí)代下的新型生產(chǎn)要素與新型生產(chǎn)力，共同推進(jìn)人工智能技術(shù)的高效發(fā)展。

為進(jìn)一步布局人工智能產(chǎn)業(yè)發(fā)展，充分發(fā)揮我國(guó)在數(shù)據(jù)與算力方面的成果積累，在數(shù)據(jù)方面，應(yīng)加快建設(shè)數(shù)據(jù)產(chǎn)權(quán)制度，構(gòu)建數(shù)據(jù)要素市場(chǎng)，推動(dòng)數(shù)據(jù)產(chǎn)權(quán)結(jié)構(gòu)性分置和市場(chǎng)化有序流通，打破數(shù)據(jù)壁壘，從而在市場(chǎng)機(jī)制與行政監(jiān)管的雙重治理體系下充分發(fā)揮數(shù)據(jù)資源的乘數(shù)效應(yīng)，例如打造數(shù)據(jù)中心、實(shí)現(xiàn)優(yōu)質(zhì)的多模態(tài)數(shù)據(jù)集的開(kāi)放流通，從而支持人工智能的訓(xùn)練優(yōu)化等以數(shù)據(jù)為依托的研發(fā)應(yīng)用。

在算力方面，鑒于高水平的人工智能離不開(kāi)大規(guī)模算力資源支撐，一方面，有必要集中強(qiáng)健的算力資源，比如建造區(qū)域化、行業(yè)化的算力中心，加強(qiáng)算力資源的投資投入，夯實(shí)人工智能的基礎(chǔ)底座建設(shè)。另一方面，可以考慮深入剖析業(yè)務(wù)實(shí)踐場(chǎng)景與算力應(yīng)用的可融合性，拓寬人工智能應(yīng)用的垂類(lèi)領(lǐng)域，催生新業(yè)態(tài)、新模式。

21世紀(jì)：目前來(lái)看，我國(guó)人工智能產(chǎn)業(yè)發(fā)展和OpenAI等仍存有差距，但人工智能監(jiān)管勢(shì)在必行。在您看來(lái)，如何平衡產(chǎn)業(yè)發(fā)展和監(jiān)管？

張毅：產(chǎn)業(yè)發(fā)展和監(jiān)管的平衡其實(shí)是對(duì)任何新型技術(shù)進(jìn)行治理的經(jīng)典問(wèn)題。我們過(guò)往在對(duì)金融科技、區(qū)塊鏈等新技術(shù)的治理實(shí)際上已積累了豐富的監(jiān)管經(jīng)驗(yàn)。因此，在人工智能監(jiān)管實(shí)踐中也能看到對(duì)之前互聯(lián)網(wǎng)監(jiān)管領(lǐng)域積累的成功治理經(jīng)驗(yàn)的承繼，比如在治理之初就已經(jīng)采取“審慎包容”這一中國(guó)互聯(lián)網(wǎng)治理領(lǐng)域的“長(zhǎng)期主義”原則。

但人工智能治理的特殊性在于，其對(duì)社會(huì)乃至人類(lèi)經(jīng)驗(yàn)空間的影響深度與廣度是前所未有的。面對(duì)發(fā)展日新月異的人工智能技術(shù)，傳統(tǒng)的監(jiān)管手段從認(rèn)識(shí)到實(shí)際治理人工智能均會(huì)面臨一定的瓶頸。

因此，要在實(shí)踐層面落實(shí)“包容審慎”的治理理念，可能還有賴(lài)于對(duì)人工智能產(chǎn)業(yè)發(fā)展現(xiàn)狀與痛點(diǎn)、引發(fā)的風(fēng)險(xiǎn)程度與范圍等進(jìn)行充分調(diào)研，設(shè)置“包容審慎邊界——?jiǎng)澏ò踩拙€”的剛?cè)岵?jì)路徑，尋求平衡發(fā)展與監(jiān)管的“破題”之策。這一方面意味著需要逐步明確行政程序規(guī)則，將相對(duì)成熟的監(jiān)管實(shí)踐“硬化”，以便“安全底線”落到實(shí)處，讓監(jiān)管治理措施成為人工智能安全發(fā)展的“穩(wěn)定器”；另一方面則是在全球人工智能產(chǎn)業(yè)競(jìng)爭(zhēng)加劇之當(dāng)下，在人工智能法律規(guī)制方面，也需要警惕過(guò)于強(qiáng)勢(shì)的法律干預(yù)成為人工智能健康有序發(fā)展的“緊箍咒”。