咨詢電話
021-80392549
《關(guān)于加強(qiáng)科技倫理治理的意見》(簡稱《意見》),是新時代我國科技倫理治理領(lǐng)域具有里程碑意義的綱領(lǐng)性文件,為推動“科技向善”發(fā)展、服務(wù)我國社會進(jìn)步及造福人類提供了基本準(zhǔn)繩,對有效防范科技倫理風(fēng)險、促進(jìn)科技治理體系和治理能力現(xiàn)代化具有十分深遠(yuǎn)的意義。
人工智能的研究內(nèi)容常會涉及科技倫理敏感領(lǐng)域,根據(jù)《意見》的精神,我認(rèn)為應(yīng)主要開展以下工作:
一是道德層面。要根據(jù)《意見》精神,完善人工智能領(lǐng)域科技倫理規(guī)范、指南,對科技人員進(jìn)行倫理道德約束和引導(dǎo),使科研人員具有較好的倫理道德意識,在研發(fā)過程中始終以倫理道德紅線來約束自己。推動人工智能科研院所和企業(yè)建立倫理委員會,自覺開展人工智能倫理風(fēng)險評估、監(jiān)控和實時應(yīng)對,使道德引導(dǎo)和道德約束貫穿在人工智能設(shè)計、研發(fā)和應(yīng)用的全流程之中。
二是技術(shù)層面。要加強(qiáng)一線科技人員的技術(shù)管控和預(yù)判能力,使其能夠及時識別各類潛在風(fēng)險的發(fā)展階段和發(fā)展程度(如:風(fēng)險目前沒有嚴(yán)重表現(xiàn),但潛在風(fēng)險肯定是有的;風(fēng)險的近期緊迫性不強(qiáng),但長期嚴(yán)重性絕不可低估;風(fēng)險的嚴(yán)重性被普遍低估,也沒有受到有效的監(jiān)督與管控等)。同時,要加強(qiáng)算法、數(shù)據(jù)以及應(yīng)用的管理、檢測和評估,構(gòu)建有效的風(fēng)險預(yù)警機(jī)制,通過不斷改進(jìn)技術(shù)而降低倫理風(fēng)險。
三是法制方面。要將法律法規(guī)建設(shè)放在重要的位置上,將其作為人工智能倫理治理的最高依據(jù),不斷完善人工智能倫理治理的法律體系,使人工智能技術(shù)從設(shè)計、研發(fā)、測試、產(chǎn)業(yè)化到應(yīng)用的全過程都有法可依,消除人工智能倫理治理的法律監(jiān)管盲區(qū)。
人工智能研究工作應(yīng)以《意見》為指南,準(zhǔn)確把握人工智能治理的要求,既要促進(jìn)人工智能技術(shù)的快速發(fā)展,又要保證人工智能技術(shù)符合社會倫理。
首先,要牢固樹立道德倫理紅線意識,劃出倫理治理的底線。技術(shù)發(fā)展常常會超前于倫理,所以更要始終將道德倫理作為科技創(chuàng)新、技術(shù)應(yīng)用的先決條件,特別是在進(jìn)入未知領(lǐng)域探索或拓荒式應(yīng)用之前,要全面研判潛在道德倫理風(fēng)險,通過思想實驗和倫理悖論推演等多種形式評估風(fēng)險程度,識別可能引發(fā)道德倫理的潛在風(fēng)險點。科學(xué)家要始終將人類基本的道德倫理作為不可逾越的紅線,在科研活動中形成嚴(yán)格的道德倫理邊界和底線,并在道德倫理安全域內(nèi)從事各類科研創(chuàng)新和應(yīng)用實踐活動。
其次,要建立敏捷響應(yīng)機(jī)制,積極應(yīng)對科技倫理治理中出現(xiàn)的問題。在科技活動的實踐中,人類會面臨諸多新的、沒有預(yù)見到的倫理治理挑戰(zhàn)。一方面,要堅持倫理先行;另一方面,更要建立一套完善的敏捷響應(yīng)機(jī)制,對新出現(xiàn)的道德倫理風(fēng)險隱患進(jìn)行快速處理,及時組織倫理學(xué)、人文社科、法律、科技政策等專家與科學(xué)技術(shù)研發(fā)者共同開展評估和研究,及時出臺行業(yè)公約、科技道德倫理規(guī)范、法律法規(guī)等,將倫理治理滯后于科技發(fā)展所帶來的負(fù)面影響降到最低。
最后,要加強(qiáng)國際交流與合作,探索形成科技倫理治理的中國方案。在道德倫理觀方面,不同國家、不同民族、不同文化之間既有相同、相通之處,也有自己獨特的角度和定位。我們要站在人類命運(yùn)共同體的戰(zhàn)略高度,堅持“增進(jìn)人類福祉、尊重生命權(quán)力、堅持公平公正、合理控制風(fēng)險、保持公開透明”的科技倫理治理的基本原則,努力推進(jìn)符合全人類的科技倫理治理方案。同時,也要結(jié)合我國五千年的文化傳統(tǒng),深入研究我國獨有的科技倫理治理路徑。特別是要從最廣大人民利益出發(fā),積極防范數(shù)據(jù)安全和隱私泄露、算法歧視、基于深度偽造的安全風(fēng)險、法治風(fēng)險、科技貧困等一系列道德倫理問題。既要著重解決好中國自身面臨的倫理治理問題,又要為全人類的發(fā)展作出中國貢獻(xiàn)。