當前，全球人工智能技術發(fā)展已進入快車道，新一輪科技革命正在重塑經(jīng)濟和社會結構。2025年政府工作報告首次將“人工智能﹢”單獨列為政策章節(jié)，明確提出要持續(xù)推進“人工智能﹢”行動，將數(shù)字技術與制造優(yōu)勢、市場優(yōu)勢更好結合起來，支持大模型廣泛應用。據(jù)數(shù)據(jù)公司IDC預測，到2028年中國人工智能總投資規(guī)模將突破1000億美元，5年復合增長率為35.2%。然而，技術快速發(fā)展的同時，AI詐騙、AI侵權等新型違法犯罪行為層出不窮，給數(shù)據(jù)安全、知識產(chǎn)權保護和社會倫理帶來嚴峻挑戰(zhàn)。近日，在2025中關村論壇“科技與法治論壇”現(xiàn)場，與會嘉賓就如何通過立法為人工智能“保駕護航”進行深入探討。

人工智能安全風險逐漸顯露

“過去常說‘有圖有真相’，如今哪怕有視頻也可能是精心設計的騙局。”論壇上，清華大學智能法治研究院院長、清華大學法學院教授申衛(wèi)星分享了一個案例：某企業(yè)財務人員收到一封轉賬郵件，憑借日常反詐意識準確識別出這是釣魚郵件。然而，不一會，又收到一段“公司CFO召開高管會議”的視頻，視頻中CFO神態(tài)自若，并明確指示其進行轉賬操作。隨后，財務分15次給5個賬戶轉了兩億港幣，全程未察覺視頻系偽造。

這并非個案。公安部數(shù)據(jù)顯示，近兩年來，全國共發(fā)生“AI換臉”類詐騙案近百起。奇安信集團副總裁段繼平透露：“除了金融詐騙，AI技術還被用于制造虛假新聞、侵犯知識產(chǎn)權等違法行為。從AI換臉詐騙到偽造身份盜取賬戶，犯罪手段已形成完整產(chǎn)業(yè)鏈，甚至出現(xiàn)定制化AI犯罪服務。”

傳統(tǒng)法律遭遇“數(shù)字鴻溝”

面對AI技術帶來的新型法律問題，現(xiàn)有法律體系顯得有些滯后。全國人大常委會委員、全國人大憲法和法律委員會副主任委員、清華大學法學院院長周光權坦言，“由于人工智能技術迅猛發(fā)展，現(xiàn)有法律制度體系難以囊括或銜接人工智能技術引發(fā)的各類問題，出現(xiàn)了一定程度滯后?！?/p>

中國人民大學法學院教授、未來法治研究院副院長丁曉東也表示，人工智能發(fā)展高度依賴訓練數(shù)據(jù)，但許多現(xiàn)有的個人信息保護、著作權和數(shù)據(jù)互聯(lián)制度誕生于傳統(tǒng)工業(yè)時代，在人工智能時代已顯脫節(jié)，難以適應大規(guī)模數(shù)據(jù)匯聚和規(guī)模效應的需求。

盡管監(jiān)管部門已采取行動，如國家互聯(lián)網(wǎng)信息辦公室出臺《人工智能生成合成內容標識辦法》，明確規(guī)定自9月1日起，AI生成內容必須添加“AI”標識。但專家們認為，僅靠規(guī)則難以完全填補漏洞。

段繼平建議，大模型安全治理需要政策規(guī)范與技術手段并重，通過動態(tài)監(jiān)管和全流程防控，確保AI應用的健康發(fā)展，在段繼平看來，不僅要事前對大模型生成內容進行合規(guī)性約束，還要保證事中出現(xiàn)問題時可以實時監(jiān)測、攔截，事后實現(xiàn)精準溯源和取證，形成一套“技術對抗﹢源頭治理”的總體方案。

法治護航下的創(chuàng)新發(fā)展

在剛剛過去的全國兩會期間，人工智能安全防護、大模型數(shù)據(jù)安全、監(jiān)管立法成為政協(xié)委員們熱議的焦點議題。多位委員指出，我國人工智能領域的法律規(guī)范存在諸多空白，呼吁加快立法進程。

實際上，從國際層面來看，許多國家已經(jīng)認識到人工智能立法的重要性并付諸行動。2022年美國發(fā)布《人工智能權利法案藍圖》，為技術發(fā)展劃定倫理邊界，2024年歐盟通過《人工智能法案》，建立起分級監(jiān)管框架。

“目前我國在大數(shù)據(jù)和人工智能立法領域呈現(xiàn)‘頂層規(guī)劃＋地方試點＋行業(yè)協(xié)同’的特點?！北本┦腥嗣駲z察院第四分院檢察長劉惠表示，未來需要進一步填補法律空白，強化技術安全和倫理規(guī)范，推動數(shù)智技術和法治的深度融合。

全國政協(xié)委員、中華全國律師協(xié)會監(jiān)事長呂紅兵建議加快制定一部有關生成式人工智能的行政法規(guī)。在他看來，制定一部既要解決當下問題，又能充分考慮長遠的人工智能法難度極大，可以選擇生成式人工智能這一社會最關心最直接最現(xiàn)實的“切口”，重點加快出臺有關生成式人工智能全方位規(guī)范的立法。

全國政協(xié)委員、金杜律師事務所高級合伙人張毅提出，立法應當堅持以人民為中心，保障人的主體地位和權益，遵循“以人為本、智能向善、造福人類”的原則。

申衛(wèi)星表示，科學合理的法律規(guī)制有利于提升應用部門和消費者對于人工智能產(chǎn)品的信任度。人工智能技術的可持續(xù)發(fā)展不僅是技術競爭，也是法治軟實力競爭，人工智能立法已經(jīng)成為各國彰顯人工智能治理國際競爭力和話語權的重要標志。對于立法形式，申衛(wèi)星建議：“應以綜合立法為主，兼顧單行法的配套，考慮好與既有法律之間的關系?！?/p>

“要采取具有問題導向、試錯性質、有彈性的立法思路，通過行業(yè)實踐等多種規(guī)制手段逐步探索形成數(shù)字經(jīng)濟發(fā)展所需要的法律制度?！北本┐髮W電子商務法研究中心主任薛軍表示。丁曉東則建議在個人信息保護方面，對目的必要性原則作擴張解釋，以廣泛匯聚合理利用為前提，輔助程序性保護機制和個人信息拒絕權。在數(shù)據(jù)互聯(lián)方面，構建合理預期機制，完善爬蟲技術責任規(guī)則等，在保護權益與促進創(chuàng)新之間尋求平衡。

周光權表示，當前，社會各界對人工智能相關法律的制定充滿期待，全國人大常委會也在緊鑼密鼓地開展相關調研工作?！傲⒎ㄑ芯考纫e極，又要穩(wěn)慎，統(tǒng)籌好發(fā)展與安全的關系，確保人工智能安全發(fā)展。既要通過立法為新技術新產(chǎn)業(yè)發(fā)展提供法律保障，又要深入研究相關法律和倫理問題，有效應對新技術的不確定性所帶來的新挑戰(zhàn)。”（記者 馬嘉悅）