東西問 | 李正風(fēng)：離開科技倫理，人類會被科技“反噬”嗎？

　　中新社北京7月20日電 題：離開科技倫理，人類會被科技“反噬”嗎？

　　——專訪清華大學(xué)社會科學(xué)學(xué)院教授、科技發(fā)展與治理研究中心副主任李正風(fēng)

　　中新社記者 高凱

　　科技倫理治理作為全世界面臨的共同難題，越來越為大眾所關(guān)注。很多影視作品對此做過探討、想象和呈現(xiàn)，如《黑客帝國》系列、《終結(jié)者》系列、《我，機器人》和《機械姬》等。

　　科技倫理如何開展有效治理？離開科技倫理，人類會被科技“反噬”嗎？清華大學(xué)社會科學(xué)學(xué)院教授、科技發(fā)展與治理研究中心副主任李正風(fēng)近日接受中新社“東西問”專訪，解答這些問題。

　　現(xiàn)將采訪實錄摘要如下：

　　中新社記者：大眾十分關(guān)心科技倫理問題，如果不進(jìn)行有效治理，人類被科技“反噬”的擔(dān)憂會成真嗎？

　　李正風(fēng)：從全球?qū)用婵矗萍紓惱碇卫碚蔀樵絹碓街匾淖h題。科學(xué)和技術(shù)的發(fā)展給人類帶來前所未有的新力量，科技產(chǎn)品本身擁有的能力或功能在某些方面遠(yuǎn)超人類自身。如果不能善加利用或被濫用就會帶來巨大風(fēng)險。

　　包括電影在內(nèi)的不少藝術(shù)作品中，不乏對這類風(fēng)險的極端化描述，如技術(shù)發(fā)展到一定程度反過來控制和毀滅人類。這種可能前景被呈現(xiàn)在大銀幕上，引起大眾對科技發(fā)展及其倫理問題的重視和反思。

　　盡管是藝術(shù)創(chuàng)作，但它確實帶來警覺和思考。若我們對科技可能產(chǎn)生的后果不加思考和控制，所謂“新力量”有可能給人類未來的生存發(fā)展帶來威脅，像當(dāng)前生物技術(shù)、人工智能的發(fā)展等，存在不同程度、不同方式“反噬”人類的風(fēng)險。

　　所謂“反噬”是一種較形象的說法，是指人的某種行為或創(chuàng)造物反過來傷害到人自身。“反噬”也有程度的差異，自近代科技革命以來，人們就一直在防范科技成果的不良影響。當(dāng)科技力量不斷增強，這種不良影響可能超出人類整體可控范圍，或形成根本性、全局性的影響，“反噬”話題隨之為全球共同關(guān)注。

　　中新社記者：科技倫理治理被視作全世界面臨的共同難題，西方社會如何著手解決這一問題？西方國家與中國的努力有何異同？

　　李正風(fēng)：科技倫理治理是防范風(fēng)險非常重要的方面，旨在通過向善的價值觀念和相應(yīng)的倫理規(guī)范，引導(dǎo)和約束科技行為。

　　近代科學(xué)建制化以來，西方科學(xué)技術(shù)發(fā)展較快，科技先行國家或科技發(fā)達(dá)國家在科技向縱深發(fā)展中先行一步，較早感受到科技發(fā)展及其應(yīng)用可能帶來的風(fēng)險，治理行動也更早。

　　比如，科技倫理委員會在歐美科技發(fā)達(dá)國家最早成立于20世紀(jì)60年代。作為科技倫理治理中比較典型的審查和約束機制，其主要用來評估和審查研究的倫理風(fēng)險，一旦未充分考慮可能存在的倫理問題，或因倫理風(fēng)險過大未得到倫理委員會批準(zhǔn)，研究后續(xù)工作都會受到應(yīng)有的約束。

　　歐美科技發(fā)達(dá)國家在科技倫理治理上已形成自下而上較為成熟的系統(tǒng)。但不同發(fā)展?fàn)顟B(tài)和不同文化背景的人對科技倫理的理解存在差異，治理的重點和方式會因文化傳統(tǒng)、制度結(jié)構(gòu)、社會包容度而不同，所以各國建立的科技倫理治理體系也存在差異。從某種程度講，某個國家認(rèn)為最好的治理機制，到其他國家不見得仍是最好。

　　中國是科技后發(fā)并快速追趕的國家，在文化傳統(tǒng)和制度建設(shè)上有自身特點，要建立的科技倫理治理體系既要應(yīng)對當(dāng)代生命科學(xué)、人工智能等新興科技領(lǐng)域提出的社會倫理問題，也要適應(yīng)本國發(fā)展階段面臨的特殊挑戰(zhàn)。

　　中新社記者：今年3月，中國首個國家層面的科技倫理治理指導(dǎo)性文件——《關(guān)于加強科技倫理治理的意見》出臺，這是繼國家科技倫理委員會成立之后，中國科技倫理治理的又一標(biāo)志性事件。您如何看待中國科技倫理治理的突出特點？

　　李正風(fēng)：這一文件的出臺非常重要，一方面和中國所處的發(fā)展階段密切相關(guān)，另一方面也和中國科技倫理治理面臨的挑戰(zhàn)有關(guān)。改革開放以來，中國科學(xué)和技術(shù)快速發(fā)展，比以往更頻繁更直接地面對各式科技倫理問題，尤其是前沿問題。

　　中國在2016年提出建設(shè)世界科技強國，這和英國在16、17世紀(jì)建設(shè)成為世界科技強國，以及德國在19世紀(jì)逐漸成為世界科技強國的歷史背景有很大不同。

　　今天的科技，包括生命科學(xué)、信息科技等，更多涉及到以人類自身為對象的研究。而以前的科學(xué)家更多是將機械運動或無機世界作為主要研究對象。相對而言，過去科技發(fā)展本身引發(fā)的社會倫理問題不像今天這么集中，而當(dāng)下幾乎科技發(fā)展的每一步都會面對社會倫理問題。中國要在這樣的背景之下建成世界科技強國，就必須在科技倫理問題上成為負(fù)責(zé)任有擔(dān)當(dāng)?shù)膰摇?/p>

　　另一方面，一些歐美國家有比較長的時間探索完善自身科技倫理治理體系，中國科技倫理治理發(fā)展相對起步較晚，要在較短時間內(nèi)建立起行之有效的科技倫理治理體系，一是必須加大科技倫理治理的力度，二是必須形成整體性治理的布局，特別是補足補強治理體系中的短板。中國出臺《關(guān)于加強科技倫理治理的意見》，標(biāo)志著國家科技倫理治理真正進(jìn)入加強整體治理、全面治理的新階段。

　　對科技倫理治理而言，共同責(zé)任意識的塑造也非常必要。比如人臉識別技術(shù)產(chǎn)品，如何使用才能不損害公眾的隱私權(quán)？隨著人們對科技發(fā)展的倫理意識不斷覺醒，有關(guān)共識的塑造也有了現(xiàn)實基礎(chǔ)。

　　中新社記者：在科技發(fā)展全球化背景下，科技倫理問題不再局限于某一特定的國家或地區(qū)，您認(rèn)為全球科技倫理治理面臨怎樣的挑戰(zhàn)，如何共同應(yīng)對？

　　李正風(fēng)：全球科技倫理治理面臨的突出挑戰(zhàn)之一是不同國家不同發(fā)展階段帶來的差異，這使得倫理傾銷的問題有可能出現(xiàn)。倫理傾銷是指在倫理治理系統(tǒng)發(fā)展較成熟的國家，一些違背科技倫理規(guī)范的科學(xué)研究很難進(jìn)行，但它們卻可能被轉(zhuǎn)移到倫理規(guī)范不是很健全的國家去開展。

　　當(dāng)代科技發(fā)展的倫理問題具有跨越國家邊界和種族界限的外部性。不論生物醫(yī)學(xué)技術(shù)、人工智能技術(shù)治理，還是數(shù)據(jù)跨境使用都需要不同國家共同努力，全球相互協(xié)作。因此，構(gòu)建全球科技倫理治理的信任和合作機制非常重要。

　　在此過程中，不僅各國要制定行之有效的規(guī)范和制度，也要逐步形成科技倫理治理的國際標(biāo)準(zhǔn)和國際公約，破除狹隘的國家保護(hù)主義、民族主義，從人類命運共同體的立場出發(fā)，建立全球科技倫理治理中的信任、磋商機制，發(fā)揮并集成不同國家的智慧和力量。

　　隨著科技不斷發(fā)展，人們對風(fēng)險有更深刻的認(rèn)知后，倫理的規(guī)范也在不斷和行政管制、法律約束對接，倫理的規(guī)范不再完全是軟約束。

　　科技倫理治理絕非要阻礙科技發(fā)展，而是要把握好科技發(fā)展方向，為科技的健康發(fā)展清除阻礙。同時，拓寬科技健康發(fā)展的道路，讓科技真正造福人類。理解科技倫理治理的重要作用，是各國協(xié)力構(gòu)建全球科技倫理治理體系的重要基礎(chǔ)。(完)

　　受訪者簡介：

　　李正風(fēng)，清華大學(xué)科學(xué)社會科學(xué)學(xué)院教授，中國科學(xué)院學(xué)部-清華大學(xué)科學(xué)與社會協(xié)同發(fā)展研究中心主任、中國科協(xié)清華大學(xué)科技傳播與普及研究中心副主任、科技發(fā)展與治理研究中心副主任，曾任清華大學(xué)社會科學(xué)學(xué)院副院長、中國發(fā)展戰(zhàn)略研究會副理事長。中國社會學(xué)會常務(wù)理事、中國自然辯證法研究會常務(wù)理事、中國科學(xué)學(xué)與科技政策研究會常務(wù)理事、科學(xué)學(xué)研究副主編、Cultures of Science副主編。研究領(lǐng)域包括科學(xué)技術(shù)的社會研究、科技哲學(xué)、科技倫理與科技文化、科技發(fā)展戰(zhàn)略與政策、科技傳播與普及等。