AI“李鬼”迭出，代表委員建言人工智能治理

　　中新社北京3月4日電 題：AI“李鬼”迭出，代表委員建言人工智能治理

　　中新社記者 常濤

　　在履職過程中，全國人大代表、美的集團副總裁兼首席財務官鐘錚注意到一種現象：網絡上有大量AI(人工智能)生成的視頻內容，有的模仿明星或專家的形象和聲音，有的虛構人設、推銷產品，誤導消費者購買不必要的商品，造成財產損失，甚至產生信任危機。

　　不光是視頻，伴隨人工智能技術快速進步，文、視、圖、聲等的合成和制作門檻大幅降低，一些人工智能生成的內容“李逵”“李鬼”難辨，給用戶帶來困擾。2025年全國兩會期間，多位代表委員對此現象予以關注，并提出建議。

　　鐘錚認為，現在生成式人工智能在法律法規體系上仍不完善，特別是在界定AI生成內容的版權歸屬，以及侵權責任認定、隱私保護標準方面存在空白。此外，目前對于生成式人工智能視頻的審核，技術條件有限，還需要繼續完善技術手段。

　　全國人大代表，TCL創始人、董事長李東生也關注到了“AI深度偽造欺詐治理”的話題，“生成式人工智能技術迅速發展，這個問題的‘B面’——深度偽造技術也在快速發展，并可能帶來新的社會問題。”

　　李東生表示，近年來，中國相關立法雖關注“AI深度偽造欺詐”這一議題，但已出臺的規章制度尚不成體系，還不具備可操作的細則和明確的處罰標準。

　　全國人大代表、小米集團創始人雷軍也注意到了“AI換臉擬聲”帶來的問題。他表示，不當使用、濫用易引發侵犯肖像權、侵犯公民個人信息以及詐騙等犯罪行為。

　　全國政協委員、安徽省律師協會監事長周世虹在接受中新社記者采訪時介紹，中國于2023年8月起施行《生成式人工智能服務管理暫行辦法》(以下簡稱《暫行辦法》)，從而形成以《暫行辦法》為核心，輔以數據安全法、個人信息保護法等單行法的人工智能規范，但缺乏高位階的專門立法，覆蓋范圍有限，難以應對技術發展可能引發的各種社會問題。

　　周世虹建議將生成式人工智能納入專項立法，明確開發者、運營者、用戶三方責任；完善監管協同機制，建立網信、工信、公安等多部門聯動的動態監管體系；設立AI生成內容標識制度，強制標識AI生成內容，防范虛假信息傳播。

　　關于生成式人工智能視頻傳播管理機制，鐘錚建議，修訂著作權法等相關法律法規，加強原創版權和隱私保護；利用AI技術審核AI合成的視頻內容，同時投入更多資源開發高效的AI審核工具，并結合人工審核，通過雙重校驗提高識別準確率等。

　　全國人大代表、科大訊飛董事長劉慶峰表示，生成式人工智能存在幻覺，特別是深度推理模型的邏輯自洽性提升，使得AI生成內容真假難辨。他建議，研究幻覺自動分析的技術和軟件平臺，開展幻覺自動分析、AIGC(生成式人工智能)深度鑒偽、有害內容識別以及互聯網傳播溯源，由相關部門定期清理幻覺數據，為公眾提供AIGC幻覺信息檢測工具與服務。(完)