中新社博鰲3月26日電 題：AI迅猛發(fā)展，人類(lèi)能否穩(wěn)控“方向盤(pán)”
中新社記者 王曉斌
全球各大企業(yè)在A(yíng)I(人工智能)技術(shù)賽道上競(jìng)相追逐，博鰲亞洲論壇2025年年會(huì)于3月26日舉辦的一場(chǎng)AI主題分論壇，關(guān)注相關(guān)的深層次話(huà)題：在A(yíng)I技術(shù)迅猛發(fā)展的時(shí)代，人類(lèi)能否繼續(xù)穩(wěn)坐“駕駛艙”，確保自己是掌控方向的司機(jī)，而非被動(dòng)的乘客？
為何人類(lèi)必須掌控AI“方向盤(pán)”
AI近年來(lái)的快速發(fā)展既令人振奮，又暗藏隱憂(yōu)。上海科學(xué)智能研究院首席戰(zhàn)略官、復(fù)旦大學(xué)經(jīng)濟(jì)學(xué)教授楊燕青指出，AI可能是人類(lèi)歷史上最強(qiáng)大的通用技術(shù)。“與蒸汽機(jī)、電力等增強(qiáng)人類(lèi)體力的技術(shù)不同，AI直接賦能人類(lèi)大腦，涉及計(jì)算與認(rèn)知的深度融合。”楊燕青將AI特性描述為“類(lèi)人”，這使得AI既能帶來(lái)生產(chǎn)力提升，也可能引發(fā)威脅人類(lèi)生存的風(fēng)險(xiǎn)。
中國(guó)工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院院長(zhǎng)張亞勤介紹，2025年人工智能發(fā)展呈現(xiàn)三大趨勢(shì)：從生成式大模型邁向智能體，從預(yù)訓(xùn)練走向推理，從信息智能走向物理智能和具身智能。
隨著AI的快速迭代，一個(gè)令人不安的場(chǎng)景或從科幻電影中走向現(xiàn)實(shí)：本應(yīng)協(xié)助人類(lèi)的AI，可能因?yàn)樗惴ㄆ罨蛲獠坎倏v，做出違背倫理、危及人類(lèi)利益的決策。
人類(lèi)如何掌控AI“方向盤(pán)”
面對(duì)未知的AI風(fēng)險(xiǎn)，人類(lèi)如何應(yīng)對(duì)？中國(guó)科學(xué)院自動(dòng)化研究所研究員、聯(lián)合國(guó)人工智能高層顧問(wèn)機(jī)構(gòu)專(zhuān)家曾毅主張，將倫理安全融入AI開(kāi)發(fā)的底層設(shè)計(jì)，視其為“第一性原則”，不可刪除、不可違背。他強(qiáng)調(diào)，AI的倫理安全應(yīng)成為技術(shù)發(fā)展的基因，確保其與人類(lèi)價(jià)值觀(guān)保持一致。
張亞勤進(jìn)一步將AI風(fēng)險(xiǎn)分解為可信度與可控性?xún)蓚€(gè)層面。可信度要求AI在執(zhí)行任務(wù)時(shí)遵循人類(lèi)期望、倫理規(guī)范和社會(huì)法律，不產(chǎn)生誤導(dǎo)性、有害或不公平的結(jié)果；可控性則確保人類(lèi)能有效監(jiān)控、干預(yù)和糾正AI行為，避免失控或不可預(yù)測(cè)的后果。他提出，設(shè)定技術(shù)紅線(xiàn)與邊界是關(guān)鍵，如限制智能體自我復(fù)制，以降低失控風(fēng)險(xiǎn)。
在具體實(shí)踐上，國(guó)際社會(huì)已采取行動(dòng)。歐盟《人工智能法案》于2024年實(shí)施，對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)設(shè)定了嚴(yán)格的透明度和問(wèn)責(zé)要求；中國(guó)2023年發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》則明確要求企業(yè)對(duì)AI輸出內(nèi)容負(fù)責(zé)。這些技術(shù)與倫理并重的措施，旨在確保人類(lèi)腳踩AI超速的“剎車(chē)片”，手握AI發(fā)展的“方向盤(pán)”。
平衡AI：發(fā)展與治理的共生之道
有人擔(dān)憂(yōu)，給AI“裝上剎車(chē)片”會(huì)削弱其競(jìng)爭(zhēng)力。曾毅介紹，其所在的團(tuán)隊(duì)通過(guò)對(duì)大模型進(jìn)行微調(diào)，可以將安全能力提升20%至30%，對(duì)其性能幾乎沒(méi)有負(fù)面影響。這一發(fā)現(xiàn)證明，安全治理與技術(shù)發(fā)展可以并行不悖。
當(dāng)天在博鰲的討論最終匯聚成共識(shí)：AI治理需要構(gòu)建一個(gè)多元、立體的全方位治理體系。這一體系如同一個(gè)精密的生態(tài)系統(tǒng)，既有自上而下的宏觀(guān)規(guī)劃，也有自下而上的微觀(guān)參與，涵蓋技術(shù)、社會(huì)、經(jīng)濟(jì)等多元維度。
“我們?cè)趺春腿斯ぶ悄芄蔡帲咳绾巫屓斯ぶ悄苁沟谜麄€(gè)世界變得更好，人類(lèi)應(yīng)有更大的責(zé)任。”楊燕青認(rèn)為，AI治理是每個(gè)人的使命。社會(huì)大眾應(yīng)保持自身的價(jià)值觀(guān)和創(chuàng)新力，在多元的理念中把握好自己的“方向盤(pán)”。(完)