聯(lián)系電話: 010-8882344888
馬特·舒默在其題為《大事正在發(fā)生》的博文中，系統(tǒng)梳理了人工智能技術(shù)的演進軌跡，揭示出其在極短時間內(nèi)實現(xiàn)的跨越式發(fā)展：自2022年尚無法準確執(zhí)行基礎算術(shù)運算，至2026年已具備獨立承擔人類專家需數(shù)周完成之復雜任務的能力。作為數(shù)據(jù)法領域的研究者，必須指出，這一技術(shù)躍遷不僅體現(xiàn)為計算效能的提升，更構(gòu)成對現(xiàn)行法律體系的結(jié)構(gòu)性沖擊。面對人工智能不斷突破智能邊界所帶來的倫理與規(guī)制困境，亟需構(gòu)建與之相適應的法律框架，以確保技術(shù)發(fā)展始終置于人類社會可控范圍之內(nèi)。
據(jù)METR機構(gòu)發(fā)布的數(shù)據(jù)顯示，人工智能系統(tǒng)完成特定任務所需時間在一年內(nèi)由“10分鐘”縮短至“5小時”，且其性能提升速率或已加速至每四個月翻倍。若此趨勢持續(xù)，預計三年內(nèi)人工智能將能夠自主執(zhí)行周期長達一個月的綜合性任務。此種發(fā)展速度顯著超越了法律制度的適應與響應能力，暴露出當前法律框架在應對高階人工智能時的三大結(jié)構(gòu)性缺陷：
當人工智能系統(tǒng)在無直接人類干預下作出決策并引發(fā)損害后果時，責任主體的界定成為法律適用中的核心難題。以人工智能醫(yī)療診斷系統(tǒng)為例，若因算法錯誤導致誤診并造成患者損害，其責任應歸屬于開發(fā)主體、部署機構(gòu)，抑或算法本身，現(xiàn)行法律規(guī)范尚未形成統(tǒng)一認定標準?？蓞⒖細W盟《人工智能法案》（草案）中關(guān)于“高風險AI系統(tǒng)”之責任配置彩神官方條款，但其適用范圍與解釋仍存爭議。
以GPT-4為代表的大型語言模型依賴海量數(shù)據(jù)進行訓練，其數(shù)據(jù)采集來源的合法性、使用范圍的邊界以及個人數(shù)據(jù)主體的知情同意機制，在技術(shù)快速迭代過程中常被弱化甚至忽視。2023年某人工智能企業(yè)因未經(jīng)授權(quán)使用醫(yī)療健康數(shù)據(jù)被提起訴訟之案例，僅是數(shù)據(jù)合規(guī)風險的初步顯現(xiàn)，未來此類問題或?qū)⒊手笖?shù)級增長。
實證研究表明，人工智能系統(tǒng)可能復制并放大訓練數(shù)據(jù)中固有的偏見。例如，麻省理工學院（MIT）于2024年發(fā)布的一項研究指出，某招聘輔助系統(tǒng)對女性求職者的評分系統(tǒng)性偏低。若缺乏具有法律約束力的算法審計與偏差糾正機制，人工智能將加劇社會不平等，構(gòu)成對公平原則的實質(zhì)性侵蝕。
面對人工智能能力迅速超越人類專家的現(xiàn)實趨勢，傳統(tǒng)以“事后追責”為核心的法律治理模式已顯滯后。舒默所警示的“人工智能或?qū)⒊蕉鄶?shù)博士”的判斷，實質(zhì)指向法律規(guī)制范式的轉(zhuǎn)型需求。數(shù)據(jù)法領域應推動建立以“預防為主、動態(tài)調(diào)整”為核心的新型監(jiān)管體系：
推行算法透明度義務。應通過立法強制要求關(guān)鍵領域的人工智能系統(tǒng)披露其核心算法邏輯與決策機制，參考歐盟《人工智能法案》中關(guān)于“系統(tǒng)文檔”之規(guī)定，確保技術(shù)過程可追溯、可解釋。同時，建立獨立第三方審計機制，對高風險系統(tǒng)實施定期評估。
設立人工智能倫理審查機構(gòu)?？山梃b生物醫(yī)學研究領域的倫理委員會制度，針對高風險人工智能應用（如司法輔助、自動駕駛、信貸評估等）實施強制性事前倫理與技術(shù)評估，確保其設計與部署符合基本權(quán)利保障與社會公共利益。
構(gòu)建分級責任制度。參考麻省理工學院提出的“人工智能分級監(jiān)管模型”，依據(jù)系統(tǒng)的自主性程度劃分為L1至L5五個等級，對應設定差異化的法律責任與合規(guī)要求。例如，L5級完全自主系統(tǒng)應強制配備實時人類監(jiān)督機制，并明確開發(fā)方與運營方的連帶責任。
Anthropic首席執(zhí)行官Dario Amodei于2025年公開預測，人工智能或?qū)⒂?026至2027年間實現(xiàn)對人類智能的全面超越。此預測并非修辭性夸張，而是對技術(shù)發(fā)展趨勢的嚴肅判斷。法律制度的根本使命，在于確保技術(shù)進步不以犧牲人類尊嚴、自由與安全為代價。
呼吁全社會重視對此的回答，不僅關(guān)乎《數(shù)據(jù)保護法》的具體條文設計，更涉及算法治理機制的制度化建設，以及全社會對技術(shù)倫理的持續(xù)反思與規(guī)范。
