《關(guān)于加強(qiáng)科技倫理治理的意見》（簡稱《意見》），是新時代我國科技倫理治理領(lǐng)域具有里程碑意義的綱領(lǐng)性文件，為推動“科技向善”發(fā)展、服務(wù)我國社會進(jìn)步及造福人類提供了基本準(zhǔn)繩，對有效防范科技倫理風(fēng)險、促進(jìn)科技治理體系和治理能力現(xiàn)代化具有十分深遠(yuǎn)的意義。

人工智能的研究內(nèi)容常會涉及科技倫理敏感領(lǐng)域，根據(jù)《意見》的精神，我認(rèn)為應(yīng)主要開展以下工作：

一是道德層面。要根據(jù)《意見》精神，完善人工智能領(lǐng)域科技倫理規(guī)范、指南，對科技人員進(jìn)行倫理道德約束和引導(dǎo)，使科研人員具有較好的倫理道德意識，在研發(fā)過程中始終以倫理道德紅線來約束自己。推動人工智能科研院所和企業(yè)建立倫理委員會，自覺開展人工智能倫理風(fēng)險評估、監(jiān)控和實時應(yīng)對，使道德引導(dǎo)和道德約束貫穿在人工智能設(shè)計、研發(fā)和應(yīng)用的全流程之中。

二是技術(shù)層面。要加強(qiáng)一線科技人員的技術(shù)管控和預(yù)判能力，使其能夠及時識別各類潛在風(fēng)險的發(fā)展階段和發(fā)展程度（如：風(fēng)險目前沒有嚴(yán)重表現(xiàn)，但潛在風(fēng)險肯定是有的；風(fēng)險的近期緊迫性不強(qiáng)，但長期嚴(yán)重性絕不可低估；風(fēng)險的嚴(yán)重性被普遍低估，也沒有受到有效的監(jiān)督與管控等）。同時，要加強(qiáng)算法、數(shù)據(jù)以及應(yīng)用的管理、檢測和評估，構(gòu)建有效的風(fēng)險預(yù)警機(jī)制，通過不斷改進(jìn)技術(shù)而降低倫理風(fēng)險。

三是法制方面。要將法律法規(guī)建設(shè)放在重要的位置上，將其作為人工智能倫理治理的最高依據(jù)，不斷完善人工智能倫理治理的法律體系，使人工智能技術(shù)從設(shè)計、研發(fā)、測試、產(chǎn)業(yè)化到應(yīng)用的全過程都有法可依，消除人工智能倫理治理的法律監(jiān)管盲區(qū)。

人工智能研究工作應(yīng)以《意見》為指南，準(zhǔn)確把握人工智能治理的要求，既要促進(jìn)人工智能技術(shù)的快速發(fā)展，又要保證人工智能技術(shù)符合社會倫理。

首先，要牢固樹立道德倫理紅線意識，劃出倫理治理的底線。技術(shù)發(fā)展常常會超前于倫理，所以更要始終將道德倫理作為科技創(chuàng)新、技術(shù)應(yīng)用的先決條件，特別是在進(jìn)入未知領(lǐng)域探索或拓荒式應(yīng)用之前，要全面研判潛在道德倫理風(fēng)險，通過思想實驗和倫理悖論推演等多種形式評估風(fēng)險程度，識別可能引發(fā)道德倫理的潛在風(fēng)險點。科學(xué)家要始終將人類基本的道德倫理作為不可逾越的紅線，在科研活動中形成嚴(yán)格的道德倫理邊界和底線，并在道德倫理安全域內(nèi)從事各類科研創(chuàng)新和應(yīng)用實踐活動。

其次，要建立敏捷響應(yīng)機(jī)制，積極應(yīng)對科技倫理治理中出現(xiàn)的問題。在科技活動的實踐中，人類會面臨諸多新的、沒有預(yù)見到的倫理治理挑戰(zhàn)。一方面，要堅持倫理先行；另一方面，更要建立一套完善的敏捷響應(yīng)機(jī)制，對新出現(xiàn)的道德倫理風(fēng)險隱患進(jìn)行快速處理，及時組織倫理學(xué)、人文社科、法律、科技政策等專家與科學(xué)技術(shù)研發(fā)者共同開展評估和研究，及時出臺行業(yè)公約、科技道德倫理規(guī)范、法律法規(guī)等，將倫理治理滯后于科技發(fā)展所帶來的負(fù)面影響降到最低。

最后，要加強(qiáng)國際交流與合作，探索形成科技倫理治理的中國方案。在道德倫理觀方面，不同國家、不同民族、不同文化之間既有相同、相通之處，也有自己獨特的角度和定位。我們要站在人類命運(yùn)共同體的戰(zhàn)略高度，堅持“增進(jìn)人類福祉、尊重生命權(quán)力、堅持公平公正、合理控制風(fēng)險、保持公開透明”的科技倫理治理的基本原則，努力推進(jìn)符合全人類的科技倫理治理方案。同時，也要結(jié)合我國五千年的文化傳統(tǒng)，深入研究我國獨有的科技倫理治理路徑。特別是要從最廣大人民利益出發(fā)，積極防范數(shù)據(jù)安全和隱私泄露、算法歧視、基于深度偽造的安全風(fēng)險、法治風(fēng)險、科技貧困等一系列道德倫理問題。既要著重解決好中國自身面臨的倫理治理問題，又要為全人類的發(fā)展作出中國貢獻(xiàn)。