“長(cháng)江后浪推前浪”“一代更比一代強”，這既是青年成長(cháng)成才的基本規律，也是學(xué)術(shù)繁榮興盛的內在要求。與青年學(xué)者同心同德同奮進(jìn)、共生共榮共成長(cháng)，為青年學(xué)者走向學(xué)術(shù)前沿服務(wù)，推動(dòng)青年學(xué)者群體性進(jìn)步，是我們不變的初心。為此，光明日報各理論版面從今天起特別開(kāi)辟《青年論壇》專(zhuān)欄，為青年才俊發(fā)表真知灼見(jiàn)提供專(zhuān)門(mén)平臺，歡迎各位青年學(xué)者惠賜佳作。 

　　中央全面深化改革委員會(huì )第九次會(huì )議不久前審議通過(guò)了《國家科技倫理委員會(huì )組建方案》（以下簡(jiǎn)稱(chēng)《方案》）。會(huì )議指出，科技倫理是科技活動(dòng)必須遵守的價(jià)值準則。組建國家科技倫理委員會(huì )，目的就是加強統籌規范和指導協(xié)調，推動(dòng)構建覆蓋全面、導向明確、規范有序、協(xié)調一致的科技倫理治理體系。要抓緊完善制度規范，健全治理機制，強化倫理監管，細化相關(guān)法律法規和倫理審查規則，規范各類(lèi)科學(xué)研究活動(dòng)。根據會(huì )議精神，發(fā)展科技倫理，不僅要明確科技活動(dòng)必須遵守的價(jià)值準則，更要把這些準則落實(shí)在行動(dòng)中，通過(guò)各種制度、機制、監管和審查，構建切實(shí)有效的“科技倫理治理體系”。 

　　規范科技活動(dòng)的倫理原則 

　　發(fā)展科技倫理，就是把價(jià)值、原則、規范帶入科技活動(dòng)，從而在各個(gè)環(huán)節、各個(gè)層面提升科技活動(dòng)的倫理質(zhì)量，使科學(xué)技術(shù)更好地造福人類(lèi)社會(huì )。要做到這一點(diǎn)，需要在以下兩個(gè)方面著(zhù)力：一方面，不斷消解科技活動(dòng)可能帶來(lái)的負面后果。特別是對那些技術(shù)發(fā)展不成熟、應用后果不明朗的前沿新興科技，要通過(guò)建立評估體系和預警機制進(jìn)行風(fēng)險管控。不能僅僅通過(guò)經(jīng)濟指標來(lái)衡量科技活動(dòng)的社會(huì )效益，尤其警惕“資本邏輯”對科技活動(dòng)的控制，堅決制止把人類(lèi)社會(huì )當作技術(shù)實(shí)驗場(chǎng)景的極端做法。另一方面，再次明確科技活動(dòng)的屬人本性。要做到這一點(diǎn)，就不能偏執于“科技中立”的價(jià)值觀(guān)念，認為科技雖然也是人的活動(dòng)，但終究隱含著(zhù)超越人類(lèi)的獨立發(fā)展主題?？蓡?wèn)題是，如果我們把科技理解為自然向人類(lèi)的打開(kāi)方式，那么很顯然，這些方式不僅可以有選擇，而且應當是屬人的選擇。 

　　盡管科技倫理問(wèn)題在當代的重要性已不言而喻，但在現實(shí)生活中，普通民眾對這個(gè)問(wèn)題還很陌生，遠沒(méi)有形成對應的概念。據此，不少批評者深表憂(yōu)慮。在他們看來(lái)，高科技多掌握在技術(shù)專(zhuān)家、商業(yè)領(lǐng)袖、政府管理者等社會(huì )精英手中。如果這些人在從事科技活動(dòng)的時(shí)候不考慮倫理問(wèn)題，那么普通民眾就更難意識到專(zhuān)業(yè)的科技倫理問(wèn)題?？萍疾粋惱硭鶐?lái)的惡性后果將不可避免地使民眾陷入恐慌。不過(guò)，值得慶幸的是，在那些頻繁接觸和運用前沿新興科技的人們中間，開(kāi)始涌現出越來(lái)越多關(guān)注科技倫理的人。他們不僅研究科技倫理問(wèn)題，也熱衷于科技倫理實(shí)踐，并身體力行地推動(dòng)科技倫理的發(fā)展。這些先行者的研究成果和實(shí)踐經(jīng)驗大致可以被歸結為如下一些倫理原則： 

　　后果應風(fēng)控。我們常說(shuō)科學(xué)技術(shù)是一把雙刃劍。這意味著(zhù)，科技力量越是強大，它可能帶來(lái)的風(fēng)險也就越大?？上攵?，如果我們對某項科學(xué)研究和技術(shù)應用所產(chǎn)生的后果不得而知，且沒(méi)有相應的補救措施消解不良后果，那么，我們就會(huì )使自己陷入進(jìn)退兩難、無(wú)所適從的境地。2018年的基因編輯嬰兒事件就是一例。由于存在脫靶效應，新生兒的基因異于常人。因此，這臺基因編輯手術(shù)對這兩個(gè)孩子的生理、心理以及未來(lái)生活所造成的影響不僅無(wú)法預測，而且后果不可逆。所以，對于那些后果未知且可能造成不可逆結果的前沿新興科技應用，應當建立風(fēng)險管控機制，必要時(shí)可明令禁止。 

　　信息應公開(kāi)。這條準則對那些經(jīng)常和數據打交道的企業(yè)來(lái)說(shuō)尤其重要。在智能大數據時(shí)代，為了開(kāi)發(fā)更加“懂得”消費者的產(chǎn)品，越來(lái)越多的企業(yè)開(kāi)始以數據管理的模式建立用戶(hù)系統。但是，企業(yè)在儲存、分析和使用消費者私人數據的同時(shí)，也存在著(zhù)大量違規處理數據和利用數據操控用戶(hù)的隱蔽做法。2018年，美國著(zhù)名的社交網(wǎng)絡(luò )企業(yè)臉書(shū)（Facebook）就因把未經(jīng)用戶(hù)授權的私人數據提供給第三方使用而受到美國司法部門(mén)的立案調查。因此，企業(yè)必須確保消費者在使用產(chǎn)品或接受服務(wù)時(shí)知道自己需要同意什么。企業(yè)應當向公眾發(fā)布更多的產(chǎn)品信息和技術(shù)信息，讓更多的消費者通過(guò)更加透明的方式參與到企業(yè)的產(chǎn)品設計決策中去。

　　知識可解釋。在日常生活中，普通民眾是通過(guò)各種商品和服務(wù)間接接觸各類(lèi)科技的。但在他們享用科技產(chǎn)品帶來(lái)的生活便利的同時(shí)，往往對產(chǎn)品背后的技術(shù)條件及其工作方式不明就里，因而也就無(wú)法對產(chǎn)品使用后果做出自己的判斷。如今，當我們用網(wǎng)絡(luò )進(jìn)行購物或社交時(shí)，得到的絕大部分信息都是被算法推薦的。通過(guò)相應的算法設計，各種購物和社交軟件甚至能左右我們去哪里、遇見(jiàn)誰(shuí)、買(mǎi)什么，使我們在不知不覺(jué)之中被算法牽著(zhù)鼻子走。因此，我們需要企業(yè)提供易于理解并說(shuō)明清晰的產(chǎn)品知識和技術(shù)信息。只要有足夠透明且解釋清晰的知識，普通民眾在科技倫理問(wèn)題上自己就能作出決定。 

　　行為可問(wèn)責?？萍蓟顒?dòng)可能造成的后果需要被納入一個(gè)清晰的問(wèn)責體系之中。如果這個(gè)問(wèn)責體系不能建立，我們就既不能對科技活動(dòng)進(jìn)行反向的倫理規制，也無(wú)法妥善處理科技活動(dòng)產(chǎn)生的各種后果。2018年3月，在美國一輛無(wú)人駕駛汽車(chē)肇事傷人之后，至少有四家責任主體陷入了訴訟糾紛。究竟如何認定傳感器制造商、駕駛軟件設計商、算法開(kāi)發(fā)商和汽車(chē)所有人之間的責任關(guān)系？對這一問(wèn)題的討論甚至登上了世界權威的學(xué)術(shù)期刊之一《科學(xué)》。實(shí)際上，隨著(zhù)大量新興科技通過(guò)產(chǎn)品不斷進(jìn)入社會(huì )，類(lèi)似這樣的問(wèn)責困境今后還會(huì )頻頻出現。如果事先不能建立問(wèn)責體系，我們實(shí)際上是無(wú)法善后的。 

　　減少不平等。在理想條件下，沒(méi)有人會(huì )反對科技的作用之一在于平等地造福社會(huì )上更多的人。但在現實(shí)中，這個(gè)理想常常受到各種挑戰。我們是否應當設計更加公平的制度，使更多的科技資源流向最需要的人？但由誰(shuí)來(lái)承擔分配這些科技資源的費用呢？新一輪人工智能的發(fā)展可能會(huì )造成大面積的結構性失業(yè)。我們需要考慮那些失業(yè)人員的工作問(wèn)題嗎？還是有條件地限制人工智能的應用場(chǎng)景？我們可以發(fā)展功能型基因編輯技術(shù)嗎？但那些沒(méi)有條件購買(mǎi)這項技術(shù)產(chǎn)品的人會(huì )在出生時(shí)就“輸在起跑線(xiàn)上”，造成人與人之間“先天的”不平等。顯然，如果沒(méi)有相應的價(jià)值準則回應這些問(wèn)題，任由科技應用野蠻生長(cháng)，最終必然導致更大范圍、更深程度上的社會(huì )不平等。 

　　建立可行的“科技倫理治理體系” 

　　后果應風(fēng)控、信息應公開(kāi)、知識可解釋、行為可問(wèn)責、減少不平等，這些都是科技活動(dòng)應當遵守的價(jià)值準則，或稱(chēng)科技倫理原則。當然，科技倫理原則顯然不止這些。不僅如此，在特殊的科技領(lǐng)域，這些原則還各有其特定內涵并需要根據價(jià)值重要性進(jìn)行排序。更為關(guān)鍵的是，只有當這些原則轉化為具體的科技倫理規范，才可能切實(shí)有效地發(fā)揮作用。這需要科學(xué)家、發(fā)明家、倫理學(xué)家、企業(yè)家、監管機構、第三方組織開(kāi)展專(zhuān)項的跨學(xué)科研究，合作建立科技倫理治理體系，同時(shí)把普通公眾納入更加廣泛的科技倫理決策系統。在這個(gè)面向行動(dòng)的過(guò)程中，需要認真對待以下三方面問(wèn)題： 

　　協(xié)同經(jīng)濟倫理發(fā)展科技倫理。在現代社會(huì )，科技造福人類(lèi)的方式在很大程度上是由經(jīng)濟活動(dòng)來(lái)安排的。因此，建立科技倫理治理體系就需要統籌考慮經(jīng)濟活動(dòng)及其倫理問(wèn)題。實(shí)際上，許多當代科技倫理問(wèn)題，也是經(jīng)濟倫理問(wèn)題。有些科技倫理問(wèn)題，其實(shí)從根本上說(shuō)反倒是經(jīng)濟倫理問(wèn)題。我們實(shí)際上需要開(kāi)發(fā)的是一種統籌“科技—經(jīng)濟—倫理”的治理體系。這種治理體系需要融合三個(gè)領(lǐng)域的價(jià)值結構，并根據側重不同的層次和環(huán)節吸取各自的分析框架。例如在后果分析和責任評價(jià)這兩個(gè)維度上，現代經(jīng)濟倫理學(xué)理論中的利益相關(guān)者理論和企業(yè)社會(huì )責任理論，都是比較成熟的、可以用來(lái)討論科技倫理問(wèn)題的分析框架。 

　　定向開(kāi)發(fā)專(zhuān)業(yè)的科技倫理治理技術(shù)。面對更為實(shí)證化、標準化、技術(shù)化的科技活動(dòng)，倫理學(xué)需要把抽象的價(jià)值、原則、論證推理方式轉化為更加可度量、可評價(jià)、可操作的倫理治理技術(shù)。這項技術(shù)的本質(zhì)是在倫理與科技之間建立一種有彈性的平衡機制，就像一根可松緊的橡皮筋。一方面，對于那些發(fā)展比較成熟、應用前景及其后果比較明朗的科學(xué)技術(shù)，可逐級放寬倫理規制。相反，對于那些應用條件不成熟、應用后果未知的科學(xué)技術(shù)，應當逐級收緊倫理規制。這種分級管理的方式，需要倫理學(xué)更加深入地研究科技活動(dòng)的各個(gè)環(huán)節，為各層級上的科技決策提供倫理參照系。不僅如此，這項技術(shù)還可轉化為科技倫理發(fā)展指數，引導資本投向更值得信賴(lài)的科技應用。 

　　把科技倫理研究和職業(yè)倫理培訓結合起來(lái)。職業(yè)倫理培訓必然是科技倫理治理體系中極端重要的一個(gè)環(huán)節。要發(fā)展科技倫理，首先需要解決人的觀(guān)念問(wèn)題。價(jià)值觀(guān)念的養成有兩個(gè)途徑：一個(gè)源于道德知識，一個(gè)源于道德經(jīng)驗。在前者，各種價(jià)值準則的證成方式及其推理過(guò)程可以教會(huì )人們如何運用概念分析和判斷倫理問(wèn)題。在后者，各種科技倫理實(shí)踐活動(dòng)可以培養人的倫理敏感性。所謂倫理敏感性就是能迅速地識別科技活動(dòng)中可能存在的倫理問(wèn)題。要做好這兩點(diǎn)“人的工作”，最好的方式就是開(kāi)展專(zhuān)門(mén)的職業(yè)倫理培訓。與此同時(shí)，要把職業(yè)倫理培訓和各個(gè)層級、各個(gè)環(huán)節上的科技活動(dòng)結合起來(lái)，有機地嵌入到倫理治理體系中，真正做到有的放矢、行之有效。 

　　《方案》是在全面深化改革的大背景下提出的，落腳點(diǎn)是建立科技倫理治理體系。它從這個(gè)角度創(chuàng )造性地發(fā)展了“依法治國和以德治國相結合”的新思路和新策略，為我國新時(shí)代公民道德建設提供了新的方向和新的路徑。

　　摘自《光明日報》