摘 要:以是否維護主流科技發展模式為判據，科技倫理可分為兩種：維護辯護式科技倫理和變革轉型式科技倫理。前者默認西方主流科技發展模式可持續，據此用科技倫理來彌補、修復、解決科技發展中產生的倫理問題，維護其繼續發展；后者則做深度反思，揭示科技倫理風險的根源在于主流科技發展模式的內在缺陷，變革轉型科技發展模式才是根本解決之道和當務之急。兩種科技倫理是兩種科技大局觀的產物，認清科技發展面臨挑戰的嚴峻性與緊迫性，是構建正確科技倫理的前提，負責任的研究與創新、負責任的系統與模式并重才是解決之道。

關鍵詞:科技倫理 科技重大風險 任性人假設 致毀知識 負責任的系統與模式 高科技全押歸零賭局

【中圖分類號】G3 【文獻標識碼】A

目前科技倫理研究已成熱點，以是否維護主流科技發展模式為判據，科技倫理可分為兩種：維護辯護式科技倫理和變革轉型式科技倫理，可分別簡稱為科技倫理I、科技倫理II。前者默認當前（西方或世界）主流科技發展模式可持續，以此為前提，用科技倫理來彌補、修復、解決科技發展中產生的倫理問題，維護其繼續發展；后者則做深度反思，揭示科技倫理風險的根源在于主流科技發展模式的內在缺陷，認為治標要治本，變革轉型科技發展模式才是根本解決之道和當務之急。兩種科技倫理有著不同的產生背景，也呈現出截然不同的特征，構建變革轉型式科技倫理具有顯著的必要性與緊迫性。

樂觀順延的科技大局觀及其產物

探討科技發展與科技倫理是在科技大局觀的框架下進行的。維護辯護式科技倫理和變革轉型式科技倫理基于不同的科技大局觀，前者基于樂觀順延的科技大局觀：現在是信息科技時代，要進入生物科技時代、智能科技時代，現在是第三次工業革命，要進入第四次工業革命等；后者基于悲觀末日的科技大局觀，原子彈爆炸之后就開始流行：認為科技如此發展下去將導致毀滅性災難，甚至毀滅人類，當然，主流社會對此不以為然。需要指出的是，對人類未來而言，樂觀和悲觀的后果是不對稱的：悲觀派是擔心科技發展太快，希望有些領域停一停、有些領域緩一緩，如果悲觀派錯了，最多是放緩延遲科技的發展；但是如果樂觀派錯了則會積重難返，將錯失人類自我拯救的最后時機。因此，運用底線思維，應該重視悲觀派的擔憂。悲觀末日論的科技大局觀并不足取，但是它警示人們應該重視科技發展帶來的風險和挑戰，思考科技發展模式的變革轉型。

大局觀決定人們的思考空間、方向和愿景。作為目前世界主流的科技大局觀，樂觀順延的科技大局觀引導了國家、科研機構、企業乃至個人的科技發展規劃和政策制定，甚至決定著世界競爭的格局和趨勢。例如美國霸權主義的底氣主要來自其科技霸權，美國國會參議院通過的《2021美國創新和競爭法案》也是樂觀順延的科技大局觀的產物，在目前主流科技發展模式下，美國科技可以繼續獨占鰲頭。對主流科技大局觀的反思不僅決定著對未來科技發展的謀劃，還關乎對霸權主義的反制。探究霸權主義的科技根基是否牢固，是否存在換道超車后來居上的機會，是否可能因面臨共同挑戰而同舟共濟、加快構建人類命運共同體，才是當務之急。

西方主流科技發展模式存在重大缺陷而難以為繼。科技發展模式能否持續不是由其正面效應決定的，而是取決于其負面效應能否防控、化解、承受。筆者于1999年提出“致毀知識”概念并以其為主要研究對象開展科技重大風險研究。通過多年研究，揭示出西方科技與生俱來的缺陷及其引發的科技風險愈演愈烈的現狀和趨勢，發現人類安全防護措施和機制存在諸多嚴重漏洞，在目前西方主流科技與經濟發展模式條件下，人類面臨前所未有的雙重挑戰，引發科技危機與人類安全危機。美國科技的粗放式創新與快速發展，因不能遏制其內生的致毀知識等自毀因素的增長與擴散而不可持續、行將崩潰。[1][2]2020年瑞士科學家在《自然》雜志上發文表示在實驗室可以人工合成新冠病毒[3]。肆虐全球的新冠病毒可以源于實驗室的致毀知識，這讓人們真切感受到了尖端科技的巨大負面效應。

“元宇宙”是樂觀順延的科技大局觀的最新產物，需要謹慎對待。在現實世界都難以約束的高風險科研，在虛擬空間的“元宇宙”中更難以規范，其研究產生的知識和致毀知識都真實有效，將會危害現實社會。為遏制致毀知識而應該對“元宇宙”持謹慎態度，至少在“元宇宙”中絕不能有尖端科技實驗室、絕不能做科研。科學技術及其評判標準是發展變化的，科技使人類擺脫了對自然界的無知，擁有了改變世界的力量，創造了巨大財富。但是隨著科技力量越來越強大，科技風險、科技倫理、自我控制、協調發展等問題日益突出，行穩致遠、安全優先就成為首要標準，據此標準可以發現美國科技和科技產業的嚴重缺陷。例如硅谷是科技產業的圣地，但是無論研發和創新過程中存在多大風險和隱患，硅谷的科技專家都信奉“先做出來再請求原諒”，倫理不是硅谷頂級科技專家考慮的事，他們把科技倫理視為科技創新的絆腳石。[4]

“高科技全押歸零賭局”的趨勢需要警惕。科技經濟一體化、科技作為投資對象的結果是科技按照資本的邏輯運行，對高風險、高不確定性科研項目的狂熱研究，陷入不顧后果的賭博。賭博游戲中有一種高勝率全押賭局，絕大多數情況贏、但是輸一次就歸零。借用到高風險的高科技領域十分恰當，筆者稱之為“高科技全押歸零賭局”，或稱為“高科技全押賭局”“高科技歸零賭局”“全押歸零賭局”，即發展高科技受益巨大、后果不確定，贏多輸少，贏的越多高科技能力提升越大、社會滲透面越廣，但一旦爆發危機會給人類社會造成巨大危害甚至歸零。

“高科技全押賭局”包括兩點含義：第一，高科技正面效應很多，負面效應巨大，正負效應不能抵消、不能彌補，高科技做的一萬件好事可能抵消不了做一件壞事的后果，例如核電站的正面效應不能抵消核戰爭、核事故帶來的負面效應，因此某些高科技即使贏的概率99%、輸的概率1%，利多弊少也不能發展，因為百利一害就可能歸零。第二，全押的意思是指某些高科技負面效應災深難廣，發展高風險的高科技就是把人類安全和人類前途全部押上了，一旦被惡用、誤用、濫用，人類將大難臨頭甚至歸零。“高科技全押歸零賭局”同樣適用于具體的高風險尖端科技領域，包括AI技術、基因編輯技術、合成生物學等，可以用“X全押歸零賭局”“X全押賭局”表示。

目前美國等西方主流社會和主流智庫都不清楚其科技發展面臨的挑戰有多嚴峻，其最大的制約因素并非氣候變化和環境問題，而是作為他們霸權根基和引擎的粗放式科技發展與創新、粗放式競爭與爭霸難以為繼，全押歸零的高科技賭局預示其長期引領世界的主流科技發展模式不可持續。在國際關系上，美國依然默認其科技霸權可無限延續，只知道修昔底德陷阱，不知道競爭方式陷阱（最大的威脅不是競爭對手而是錯誤的競爭方式）對其更加不利[5]，目光短淺地堅持叢林法則、科技冷戰、霸權主義。我們需要轉型圖存、安全發展的科技大局觀，以引導變革轉型的新科技革命、新產業革命與新分配革命，我國科技發展將借此迎來換道超車、后來居上的機遇。

維護辯護式科技倫理（科技倫理I）的特點與缺陷

以樂觀順延的科技大局觀為基礎的維護辯護式科技倫理是目前主流的科技倫理

維護、默認主流科技發展模式。認為目前以美國和西方為代表的世界主流科技發展模式可持續，其主要方面是好的，倫理、風險問題是次要問題，瑕不掩瑜，對科技發展持樂觀（或謹慎樂觀）與維護的態度，在此前提下考慮、設計、實施科技倫理。例如，開始于20世紀90年代的倫理法律與社會問題研究（ELSI）收效甚微，一個重要原因是ELSI的目的就是排除公眾干擾、維護主流科技，為科研計劃保駕護航，ELSI告訴社會“科學家已經重視倫理問題了，可以繼續做研究了”[6]。

墨守科技倫理的傳統原則。認為科技倫理針對的是人、針對的是科技工作者，規定了科技工作者及其共同體應恪守的價值觀念、社會責任和行為規范及準則，認為約束、規范科技工作者行為就可以解決科技風險與倫理問題。

以責任為中心，強調負責任的研究與創新，以此解決科技倫理問題。源于歐盟的“負責任的研究與創新”（RRI）對責任概念進行了拓展，不僅在科技知識的應用環節，而且覆蓋科學研究、技術創新及推廣的整個過程，著名哲學家尤納斯（H. Jonas）主張構建以責任為中心的責任倫理學。但因為責任主體主要是科技工作者，仍然沒有擺脫倫理學的傳統原則。

平衡論，反對因噎廢食。強調在進行風險防控、倫理治理時要把握分寸，要在科技創新與風險防控、科技創新與倫理治理上保持好平衡，不喧賓奪主、不因噎廢食。

維護辯護式科技倫理的特點決定它很難解決實踐中的科技倫理問題

首先，想當然地默認作為科技倫理前提和基礎的科技大局觀及現行科技發展模式，沒有對其進行深刻反思，如果其存在重大缺陷（如上所述），則基于其上的科技倫理就無法奏效。

其次，科技倫理針對人、針對科技工作者，但是有三類人不受科技倫理的約束：一是瘋狂科學家、黑客、恐怖分子；二是軍工尖端武器研發；三是企業研發機構，如果其技術和產品容易轉化而被恐怖分子利用，企業也不會束手束腳。科學發現、技術發明做出1次和做出100次是一樣的，科研成果有“以一當百”的特點，這決定了如果科技倫理不能約束世界上所有科研人員和實驗室，其作用就十分有限，可謂科技倫理失靈。這與“只要大部分人受到約束，社會倫理就行之有效”的社會倫理不同。

第三，強調調節人的行為、以責任為中心，只是想當然。對科技活動而言，對“負責任”的理解非常復雜，見仁見智、各取所需，2020年諾貝爾化學獎頒發給倫理爭議巨大的基因編輯技術，就是典型例子。只要少數人、個別人或機器人不負責任，多數人的恪盡職責就無濟于事。重視倫理問題不等于解決了倫理問題，ELSI顯示了對科技倫理的重視，但是遠沒有解決倫理問題，如里普（Rip）指出的，ELSI研究開始于科學計劃，然后在其外圈添加一層一層的解釋與考量。[6]其目的是維護科學計劃的實施，不可能因為倫理和風險問題終止科學計劃。

第四，平衡論與平衡論陷阱。維護辯護式科技倫理強調科技倫理與科技創新要保持平衡、不要因噎廢食。這種“平衡論”貌似有理，在科技界及社會上幾乎成為共識，但筆者認為它至少有兩點錯誤：一是“平衡”并非總是正確，要具體問題具體分析，當科技風險、倫理挑戰非常嚴峻非常緊迫時，就只能風險防控優先、倫理治理優先，只能確立“科技創新、風控先行”原則，底線思維就是不搞“平衡”。二是“不要因噎廢食”也是想當然，沒有辨析因什么“噎”廢什么“食”，只是想當然地默認“噎”是科技風險、倫理問題，“食”是科技創新、科技發展，而忽視了其具體內涵是可以變化的。不能廢“食”不等于不能廢掉“壞食”（高風險的科技創新），“噎”嚴重了就廢掉“壞食”，啟用“好食”（底線安全的可持續創新和科技）。因此以“不要因噎廢食”為由繼續高風險的科技創新是錯誤的。似是而非的“平衡論”“不要因噎廢食論”形成了“平衡論陷阱”，值得警惕。

第五，科學家研究科技倫理的利弊分析。目前一些重大科技倫理項目由知名科學家牽頭，這樣安排有利有弊。有利的是科學家了解科研情況，弊端是科學家有科學家立場，很難中立，他們從根本上是維護科技發展的，強調“不要因噎廢食”，即使某些前沿領域的科技倫理問題嚴重，也很難叫停，很難忍痛割愛、自我否定。更重要的是，科技倫理是一門交叉學科，術業有專攻，科技倫理專家才是內行，更適合主持科技倫理項目，當然科學家等有關人士共同參與十分必要。

第六，基于“任性人假設”的科技樂觀主義值得警惕。長期觀察表明，科技樂觀主義根深蒂固，“科學探索無禁區”的理念已經深入人心，加之理工科相對文科的“學科優越感”，使得堅持科技樂觀到了固執、任性的程度。理性人假設、社會人假設、決策人假設等都不足以解釋這種現象，為此筆者提出“任性人假設”加以解釋。任性的日常含義是指“聽憑秉性行事，率真而為或恣意放縱”，隨著“有錢就任性”“有權就任性”“有X就任性”句式的流行，任性被賦予更多的含義。任性包含不同層次、不同成分，有秉性驅動的任性、意志驅動的任性、利益驅動的任性、直覺驅動的任性、信念驅動的任性、習慣驅動的任性、賭性驅動的任性，以及這些全部或部分組成的混合驅動的任性等。任性是理性與非理性、欲望與意志、傲慢與偏見、遠慮與賭運等的混合體。強勢地位者、優越感多者，易發生任性、成為任性人。任性人假設是指：人們在決策活動中，由于信息、預算、時間等條件限制，無法完全運用理性做出最佳決策，在秉性、意志、利益、直覺、信念、習慣、賭性等因素的驅動下，尋求更好決策和滿意決策的努力被任性而為、固執己見做出決策所替代。優越感強的決策者更易如此。歷史和現實的諸多事例表明，任性在決策活動中時常發揮重要作用，具有一定的普遍性。任性人假設與赫伯特·西蒙的決策人假設的區別在于，雖然兩者都強調理性是有限的，決策人假設強調要尋求滿意解，任性人假設則強調在秉性、意志、賭運等多種因素驅動下，尋求滿意解的努力被任性而為做出決策所替代，在現實當中，任性決策比尋求滿意解的情況可能更常見，具有優越感的決策者更是如此。當然，決策任性的結果有好有壞，具體情況要具體分析，例如英特爾公司總裁格魯夫強調的“只有偏執狂才能生存”，光纖通訊之父高錕強調的“做大事者必須執拗”等就是好的例證。在科技倫理問題上，科學家對科技樂觀前途的篤信、決不能因噎廢食的主張，用任性人假設很容易給出有解釋力的分析，也有助于加深對涉及決策問題的認識。

綜上所述，維護辯護式科技倫理深陷“科技倫理陷阱”（認為只要加強科技倫理治理，問題就迎刃而解，忽視了科技倫理治理的條件關系）[7]。作為目前主流的科技倫理，維護辯護式科技倫理不能勝任科技治理的重任，其錯誤必須得到糾正，需要提出更為有效的科技倫理，變革轉型式科技倫理應運而生。

變革轉型式科技倫理（科技倫理II）的特點與優勢

筆者提出變革轉型式科技倫理，是基于對現有科技發展模式進行變革和轉型的新型科技倫理，強調不僅科技工作者從事研究與創新時要負責任，科研系統、科技發展模式更要負責任。變革轉型式科技倫理有四個特點：

強調對作為科技倫理基礎和前提的科技發展模式進行反思，直面科技倫理失靈。如上文所述，主流科技發展模式難以為繼，基于其上的科技倫理失靈，反映出科技倫理發揮作用與科技發展模式的關系密不可分，體現出整體性與一體化。變革轉型式科技倫理追求治標更治本，為避免科技倫理失靈，優先變革現行的科技發展模式，然后據此構建新型科技倫理系統。

雙管齊下，負責任的研究、創新與負責任的科研系統、發展模式并重。負責任的研究與創新（RRI）主要強調科技工作者的行為要受到規范、約束，筆者在此基礎上強調對科研系統、科技發展模式進行規范和約束，使之轉型成為負責任的科研系統和負責任的科技發展模式（RSM），實現科研系統倫理化、科技發展模式倫理化，標本兼治。將尤納斯主張的“通過調節人的行為，構建確保人類長久續存的倫理學”擴展成為“不僅調節人的行為，更要重構科研系統和科技發展模式，以構建確保人類長久續存的倫理學和科學技術”。只有科研系統和科技發展模式本身是底線安全的，強調科研工作者做負責任的研究與創新才行之有效。

科技治理與科技創新同等重要，要落實在資源配置上。人類基因組計劃將3%—5%的經費用于倫理、法律與社會問題（ELSI）研究是一個不錯的開端，鑒于目前科技倫理風險挑戰越來越嚴峻，應該大幅提高相關研究的經費。科技創新與科技治理（風險治理、倫理治理、科技安全等）在不少情況下是沖突的，要說服強勢、任性的資本家和科學家顧及倫理約束放緩科研進展，絕非易事，僅僅依靠講道理并不能解決問題。科技治理與科技創新同等重要、安全和發展同等重要，不僅需要輿論呼吁和政策倡導，更需要雙方的資源配置與從業人員旗鼓相當，至少不能像現在這樣力量懸殊。只有認清科技發展面臨的風險與倫理挑戰，才能做出相應的社會安排。

恪守限時原則，拖延等于放棄。現行的倫理和科技倫理考量中，很少重視時間因素，而科技風險和倫理問題愈演愈烈，必須盡快解決問題。愛因斯坦指出，“唯有建立世界政府才能拯救文明和人類”，“如果人類要生存并向更高層次發展，一種新的思維方式必不可少”。問題是這樣的世界政府需要多少時間可以建成？這樣的新思維需要多少時間才廣為接受？如果不能在限定時間內完成，則于事無補。變革轉型式科技倫理恪守限時原則，也反映出構建新型科技倫理的艱巨性。

加快構建變革轉型式科技倫理具有必要性與緊迫性

以上對兩種科技倫理進行了分析，對變革轉型式科技倫理做了初步探討，拋磚引玉，后續研究尚在進行中。對比兩種科技倫理的特點（如表1，P35所示）可以說明構建新型科技倫理的必要性與緊迫性。

上述分析表明，現行主流科技倫理（科技倫理I）存在嚴重缺陷、難堪重任，需要新型科技倫理，筆者初步提出變革轉型式科技倫理，也稱之為科技倫理II，兩者有多處不同，最大差異在于對目前主流科技發展模式的判斷上：科技倫理I在樂觀順延的科技大局觀下，默認目前主流科技發展模式可持續；科技倫理II則斷定目前主流科技發展模式難以為繼，急需通過變革科技發展模式、構建新型科技倫理予以應對。建議把反思目前主流科技發展模式、直面科技倫理失靈的挑戰作為重點進行深入探討，將其作為科技倫理研究的新起點或許會富有成效。

需要強調的是實施變革轉型式科技倫理絕非易事，至少有三大制約因素需要克服，一是主流科技界仍然持樂觀順延的科技大局觀，堅持西方科學傳統的、也是對自己有利的科學探索無禁區原則，科技與資本結合更是急功近利；二是在主流科技倫理學界許多學者持有維護辯護式科技倫理，并得到科技界的認同與加強，存在著普朗克科學定律障礙；三是科技風險治理與科技創新的力量對比懸殊，僅靠講道理是解決不了問題的，根本解決之道和當務之急是發動一場新分配革命。

當今世界解決重大問題需要兩個必要條件：正確可行的思想及對策+多數認可。沒有大多數人的認可，再好的思想、對策也無濟于事。科技風險治理與科技創新的力量對比之懸殊、維護人類安全與維護國家安全的力量對比之懸殊，都不是開會議、發論文、建個學派可以解決的。西方主流經濟學的缺陷在于過于強調市場的資源配置功能，忽視了市場更重要的貢獻—分配功能，結果造成激勵嚴重失衡。新分配革命的核心是對為社會長遠需要和人類安全需要做出貢獻者給予充分的回報與激勵，改變目前回報和激勵過少的現狀。長遠需要與眼前需要、安全需要與發展需要，都應該得到同樣的重視和回報激勵。2020年可視為人類安全元年，新冠病毒席卷全球，加劇了人類安全危機，這可能引發一場史無前例的社會變革，人類社會的重心將發生轉移，從權力優先、金錢優先的社會轉變為安全優先的社會，社會結構、主導階層、文化思想、競爭規則與國際格局等都將發生變革、更替、重建、重構。

鑒于此，構建、實施變革轉型式科技倫理的啟動方案包括三點：一是呼吁把反思目前主流科技發展模式作為研究科技倫理的前提；二是要直面科技倫理失靈的挑戰來開展科技倫理研究；三是把克服上述三大制約因素作為研究的重點，如此開展研究可作為科技倫理研究的新開端。

[本文作者為中國科學院自然科學史研究所研究員、科技與社會研究中心主任】

注釋

[1]劉益東：《人類面臨的最大挑戰與科學轉型》，《自然辯證法研究》，2000年第4期，第50—55頁。

[2]劉益東：《科技重大風險與人類安全危機：前所未有的雙重挑戰及其治理對策》，《工程研究-跨學科視野中的工程》，2020年第4期，第321—336頁。

[3]Tran Thi Nhu Thao,Fabien Labroussaa.Rapid reconstruction of SARS-CoV-2 using a synthetic genomics platform.Nature.2020 Jun;582(7813):561-565.doi:10.1038/s41586-020-2294-9.

[4]王鶄峰：《美國高校將人工智能倫理引入課堂》，賽迪網，http://www.ccidnet.com/2018/0723/10408573.shtml，2018年9月25日更新。

[5]劉益東：《競爭方式陷阱與匿名核襲擊：科技重大風險治理的當務之急》，《山東科技大學學報（社會科學版）》，2021年第1期，第1—4頁。

[6]Rip, A. Future of ELSA. EMBO Report, 2009. 10（7）: 666-670.

[7]劉益東：《前沿科技領域治理應警惕科技倫理法律陷阱》，《國家治理》，2020年第35期，第23—27頁。

A Comparative Analysis and Critique of the Two Kinds of Ethics in Science and Technology

Liu Yidong

Abstract: Based on whether to maintain the mainstream science and technology development model, ethics in science and technology can be divided into two types: maintenance-oriented science and technology ethics and revolution-oriented science and technology ethics. The former believes in the sustainability of the Western mainstream science and technology development model, and uses science and technology ethics to make up for, repair and solve the ethical problems arising from the development of science and technology and maintain its continued development; the latter reveals from deep reflection that the root of the ethical risks of science and technology lies in the inherent defects of the mainstream science and technology development model and that the fundamental solution as well as the urgent task is to change and transform the science and technology development model. The two types of science and technology ethics are the products of the two major views on science and technology. The prerequisite for building the right science and technology ethics is recognizing the seriousness and urgency of the challenges facing science and technology development, and the solution is attaching equal importance to both responsible research and innovation, and responsible system and model.

Keywords: ethics in science and technology; major risks of science and technology; hypothesis of wayward man; ruin-causing knowledge; responsible system and model; showhand high-tech gambling

聲明：本文為《國家治理》周刊原創內容，任何單位或個人轉載請回復國家治理周刊微信號獲得授權，轉載時務必標明來源及作者，否則追究法律責任。