編者按 隨著(zhù)新興科技的蓬勃發(fā)展，科技創(chuàng )新和應用的不確定性后果與深遠社會(huì )影響日益凸顯，帶來(lái)了諸多不容忽視的價(jià)值沖突與倫理爭議，科技倫理治理成為全球科技創(chuàng )新與科技治理必須面對的全新挑戰。為此，本報特組織一組文章，以期激發(fā)進(jìn)一步討論和思考。

　　核心提示

• 　　必須將科技創(chuàng )新與科技倫理的關(guān)系重置為“并行”關(guān)系——不僅在科技創(chuàng )新之初就要對其價(jià)值倫理問(wèn)題有所考量，而且要使科技倫理成為貫穿于科技創(chuàng )新全生命周期的反饋與調節機制。
  

• 　　科技倫理治理涉及多個(gè)主體和利益相關(guān)方對具體的科技倫理風(fēng)險的共同感知、探究與應對，必須借助各種評價(jià)工具和政策工具對相關(guān)問(wèn)題加以評估、測試和干預、校準。
  

　　近年來(lái)，我國在數字技術(shù)、生物醫學(xué)和人工智能等領(lǐng)域的創(chuàng )新與應用，出現了跨越式發(fā)展的良好勢頭，越來(lái)越多的人享受到科技進(jìn)步的紅利，科技創(chuàng )新成為人們創(chuàng )造美好生活的關(guān)鍵動(dòng)能。但與此同時(shí)，一些新技術(shù)侵犯了公眾權益，違背了科技造福社會(huì )的初衷，潛在倫理風(fēng)險使企業(yè)等創(chuàng )新主體陷入對ESG（環(huán)境—社會(huì )—監管）風(fēng)險的焦慮之中。在我國努力邁向創(chuàng )新型國家前列的今天，為了盡力減少科技倫理風(fēng)險及其不利影響，科技倫理治理的體制、機制建設成為我國國家治理的重要環(huán)節。 

　　為了構建符合中國國情的科技倫理治理體系，繼頒布《新一代人工智能治理原則——發(fā)展負責任的人工智能》（以下簡(jiǎn)稱(chēng)《原則》）之后，相關(guān)部門(mén)正在加緊探討和制訂更具一般性的科技倫理原則，國家科技倫理委員會(huì )的組建以及科技倫理審查制度的構建等工作也在進(jìn)行之中。

科技創(chuàng )新與科技倫理共同發(fā)展 

　　科技創(chuàng )新及其爆炸性的增長(cháng)態(tài)勢，使其日益成為影響科技—社會(huì )—經(jīng)濟—生態(tài)巨系統的重要力量，科技創(chuàng )新的過(guò)程與后果往往涉及各種復雜的價(jià)值沖突與倫理抉擇，這使得科技創(chuàng )新與科技倫理的共同進(jìn)化成為當代科技活動(dòng)的內在要求。 

　　在核能、航天、化工等傳統的科技活動(dòng)中，科技創(chuàng )新與科技倫理主要呈現為一種“串行”關(guān)系，一般是在對科技創(chuàng )新所引起的安全風(fēng)險、社會(huì )爭議和不良后果加以評估的基礎上，開(kāi)始對其加以必要的倫理反思與約束。但隨著(zhù)基因、納米材料、人工智能、虛擬現實(shí)、神經(jīng)科技等新興科技的出現，不論是科技人員還是科技管理者或社會(huì )公眾，逐漸形成的一個(gè)共識是，這些領(lǐng)域的科技創(chuàng )新在可能為社會(huì )帶來(lái)巨大好處的同時(shí)，也可能導致嚴重加劇社會(huì )不平等和對生態(tài)環(huán)境造成不可逆的破壞等高度不確定性的風(fēng)險，必須將科技創(chuàng )新與科技倫理的關(guān)系重置為“并行”關(guān)系——不僅在科技創(chuàng )新之初就要對其價(jià)值倫理問(wèn)題有所考量，而且要使科技倫理成為貫穿于科技創(chuàng )新全生命周期的反饋與調節機制，通過(guò)兩者的共同進(jìn)化，讓科技在造福社會(huì )的同時(shí)盡可能減少負面后果與倫理風(fēng)險。 

　　面對新興科技的價(jià)值倫理挑戰，單靠科技共同體的科研倫理和專(zhuān)業(yè)倫理難以應對科技創(chuàng )新的倫理風(fēng)險，必須通過(guò)引入科技倫理治理，構建健全的科技倫理準則體系，開(kāi)展更具有預見(jiàn)性、動(dòng)態(tài)性和廣泛參與性的科技倫理評估，從而在充分促進(jìn)科技創(chuàng )新并使社會(huì )公眾受益的同時(shí)，避免由不合倫理的科技濫用所導致的權利侵犯、環(huán)境破壞乃至人類(lèi)生存風(fēng)險。 

　　準則構建與教育傳播齊頭并進(jìn) 

　　科技創(chuàng )新與科技倫理的共同進(jìn)化這一科技活動(dòng)的內在需求表明，科技倫理治理必須對不斷拓展的科技領(lǐng)域展開(kāi)拓展動(dòng)態(tài)治理，但像所有的動(dòng)態(tài)治理一樣，首先要通過(guò)原則與準則的構建確立治理的立足點(diǎn)。從國家科技倫理治理工作的角度來(lái)看，不論是已經(jīng)出臺的《原則》還是將來(lái)可能頒布的面向科技工作者的科技倫理準則，在內涵上都超越了一般的管理規范和專(zhuān)業(yè)倫理規范，同時(shí)具有倫理和治理兩個(gè)層面的規范性。一方面，這些原則和準則具有倫理規范性，它們是對增進(jìn)福祉、尊重生命、權利保護、負責任的創(chuàng )新等人們在科技活動(dòng)中普遍認同的價(jià)值的概括和權威性的闡釋?zhuān)涣硪环矫?，這些原則和準則將成為科技倫理治理工作的出發(fā)點(diǎn)，在此基礎上，可以通過(guò)倫理指南、倫理審查、倫理評估和倫理建議等科技倫理治理機制與工具，對相關(guān)科技創(chuàng )新中的相關(guān)倫理問(wèn)題進(jìn)行調研、預判、審議和調節。 

　　同時(shí)，在國家層面提出科技倫理準則和治理原則必須要有相應的教育傳播舉措與之配套。雖然我國在與科研誠信相關(guān)的科研倫理準則建設方面已取得一定的成績(jì)，但除生命醫學(xué)以外，應對科技的廣泛倫理影響的科技倫理準則建設還在起步階段。因此，一是要在科技與工程的高等教育與青年科技工作者的專(zhuān)業(yè)培訓中，以對科技倫理準則和治理原則的解讀為抓手，加強科技倫理意識和科技倫理規范教育；二是要在科技管理部門(mén)和其他相關(guān)政府部門(mén)的干部培訓中，強化對相關(guān)科技倫理準則和治理原則的學(xué)習，并促使其將科技倫理意識運用于工作之中，以避免和減少相關(guān)決策和行政舉措的科技倫理風(fēng)險；三是要在全社會(huì )以多種形式廣泛傳播科技倫理準則和治理原則及其背后的科技知識和科技倫理意識，使社會(huì )公眾能夠積極主動(dòng)地參與到科技倫理治理相關(guān)討論之中，促使科技更好地造福社會(huì )。 

　　剛性監管與敏捷治理相輔相成 

　　以科技倫理準則和治理原則的確立為切入點(diǎn)，科技倫理治理工作將通過(guò)科技倫理審查制度的建立和實(shí)施對科技創(chuàng )新的倫理風(fēng)險展開(kāi)系統的規制與調節。一方面，將科技倫理準則和治理原則與具體的科技倫理風(fēng)險相結合，為科技創(chuàng )新設定科技倫理的邊界與底線(xiàn)，通過(guò)應急性與預防性的科技倫理審查，對一些具有顯見(jiàn)或潛在的巨大科技倫理風(fēng)險的研究和創(chuàng )新施行剛性監管。另一方面，從預期性、均衡性和適應性等原則出發(fā)，將科技倫理原則與治理原則作為科技創(chuàng )新的柔性約束機制，對科技創(chuàng )新實(shí)施敏捷治理。 

　　為了及時(shí)有效地克服科技創(chuàng )新可能導致的重大倫理風(fēng)險，應在科技倫理治理層面引入一系列制度化的監管機制。一是建立科技共同體和科技創(chuàng )新過(guò)程的早期預警系統。對于包括重大安全事故隱患、嚴重違背人類(lèi)基本倫理共識和導致人類(lèi)生存風(fēng)險的重大科技倫理風(fēng)險，事后的規制和懲罰往往于事無(wú)補，必須通過(guò)早期預警系統的及時(shí)預警才可能規避。為此，科研機構和科技專(zhuān)業(yè)學(xué)會(huì )、協(xié)會(huì )應該由行政負責人與業(yè)務(wù)帶頭人共同承擔起早期預警的責任。二是要充分認識到，我們對于科技創(chuàng )新的可能風(fēng)險存在認識上的盲區，鼓勵科技創(chuàng )新者對于潛在的巨大風(fēng)險特別是處于“未知的未知”狀態(tài)的重大風(fēng)險展開(kāi)研究，并且在一些重點(diǎn)領(lǐng)域對特定的重大風(fēng)險感知和應對研究予以重點(diǎn)支持。三是聚焦導致重大科技倫理風(fēng)險的不良實(shí)踐特別是最差實(shí)踐，將其納入科研事故管理，通過(guò)對其原因的追溯性分析，充分總結其中的教訓，并根據舉一反三的原則對相近和類(lèi)似領(lǐng)域的研究者予以警示。 

　　敏捷治理的基本主張是面對與科技創(chuàng )新相伴隨的各種復雜的倫理風(fēng)險，應以科技創(chuàng )新與科技倫理的共同進(jìn)化為認知前提和實(shí)踐策略。首先，要從預期性原則出發(fā)，在科技規劃制定工作中，加強對科技的社會(huì )影響與倫理風(fēng)險的預見(jiàn)研究，盡可能一開(kāi)始就把事情做好；其次，立足均衡性原則，敏捷治理始終根據科技創(chuàng )新的動(dòng)態(tài)發(fā)展尋求可接受的風(fēng)險—受益，并對最終的不得不接受的倫理風(fēng)險予以制度化的補償；其三，堅持適應性原則，將科技倫理問(wèn)題作為科技創(chuàng )新的廣義社會(huì )需求，鼓勵科技創(chuàng )新者努力探索如何將價(jià)值和倫理上的考量嵌入到科技創(chuàng )新的設計與應用之中，通過(guò)負責任的研究和創(chuàng )新促進(jìn)科技向善。 

　　多元共治與能力建設雙管齊下 

　　科技倫理治理既是科技管理的新范式，也是新時(shí)代國家治理現代化探索的前沿領(lǐng)域?？萍紓惱碇卫砟Ｊ街猿霈F的關(guān)鍵原因在于，以往的科技管理和科技共同體自治的二元治理模式難以適應新興科技創(chuàng )新導致的科技倫理挑戰。但不難看到，科技活動(dòng)的高度專(zhuān)業(yè)性使得科技倫理治理不可能完全以行政化的方式運作，而必須訴諸多元共治。毋庸置疑，科技倫理治理所開(kāi)展的準則制定和國家科技倫理委員會(huì )的設立等工作起到的是權威引領(lǐng)與示范指南作用。在這一頂層架構下，必須通過(guò)具體的研究機構、科技共同體、科技工作者、科技管理者以及其他利益相關(guān)者的努力，使這一模式延伸到具體的科技創(chuàng )新實(shí)踐之中。 

　　更進(jìn)一步而言，科技倫理治理涉及多個(gè)主體和利益相關(guān)方對具體的科技倫理風(fēng)險的共同感知、探究與應對，必須借助各種評價(jià)工具和政策工具對相關(guān)問(wèn)題加以評估、測試和干預、校準。而這些工作的前提是相關(guān)主體對具體的科技倫理風(fēng)險的認知和共識。這對科技人員、科技管理者和一般公眾的能力建設提出了諸多挑戰，其中最為重要的是對科技活動(dòng)的道德敏感性和責任感的養成。為了改變這一局面，可以引入兩個(gè)工作策略。一是柔性學(xué)習策略，通過(guò)對話(huà)、辯論等方式，加強科技工作者與人文社會(huì )科學(xué)家對科技倫理問(wèn)題的研討，提升科技工作者對科技倫理風(fēng)險的認知，形成和強化相應的道德敏感性和責任感。二是剛性的校準策略，即在項目申請、管理、結項和社會(huì )評價(jià)等環(huán)節引入倫理風(fēng)險自評等硬性要求，倒逼科技人員和管理者關(guān)注科技倫理風(fēng)險、反思其應承擔的倫理責任。

來(lái)源：《科技日報》