為人類創新能力預警

生物工程、基因工程領域的研究，已經催生出一個龐大且前景看好的產業。科學家興奮地告訴世界，合成生物將大大改善人類健康，而轉基因作物抗蟲害、抵禦極端天氣、高產、營養價值豐富等優點，更有望讓全球部分地區徹底擺脫飢餓。

但是，有關生物基因工程的研究也在悄悄逾越「邊界」。哈佛大學分子生物學家喬治·切齊有意復活猛獁象等已經滅絕的物種，聲稱這將有益地球物種的多樣性。更加令人不安的是，一些科學家主持的實驗室正在秘密開展人獸雜交的嘗試，據稱是為更好檢驗新藥效果……

近年來，隨著基因工程研究取得重大進展，通過基因篩選、基因增能，「設計」更為優秀的下一代似乎不再是天方夜譚。儘管歐美國家相關宗教和社會組織對此類研究提出了強烈批評，但並沒能真正阻止相關科學探索的前行。

冷凍條件下保存人體，也引發一連串法律、倫理問題。在智能機器人裝置的使用正造成更多失業的背景下，用冷凍人體方法獲得更長壽命，無疑也將形成複雜的社會影響。生物醫學、人工智慧、機器人產業的融合，將產生所謂「半機器人」，如同電影中虛構的鋼鐵俠、金剛狼……「人」事實上同時具備了一般人和機器人的雙重特徵。

斯坦福大學神經學家羅伯特·薩博斯基主張，通過生物化學手段治療抑鬱、焦慮、注意力缺陷多動障礙以及其他精神疾病。依照這種理解，人被從智能生物，降格到與其他生物體、機器人無差別的機械化個體，基於此開展的科學研究、實驗、治療(干預)完全忽略了人性本身。

新科技革命潮流涌動，新技術應用前景令人驚嘆，樂觀的科學家認為，科學進步終將較為徹底地解放人類，人們將由此過上空前美好的生活。但現實的問題是，無論生物工程、基因工程，還是計算機科學等新興領域，不同學科本身日漸複雜，而學科之間的交融則加劇了複雜。倫理學家、耶魯大學生物倫理學跨學科中心主管溫德爾·瓦拉赫警告說，新技術研究和應用對於人類社會、人類本身的影響尚未充分顯現，「單從科學角度進行安全評估已遠遠不夠」。

新技術的研究和應用，往往不可避免地帶來倫理、法律等層面的爭議。尤為值得關注的是，新技術創造出的多重不確定性，經常並不會在開始階段就得以充分釋放，因而風險值無法計算。因此，《科技失控》一書作者指出，新技術研究和應用在引發社會強烈爭議的同時，研究主體往往會拒絕對公眾開誠布公。這意味著，人們對一些新技術應用的擔憂，不是毫無根據的猜想，而是擔心在毫無準備的情況下成為新技術試錯的犧牲品。

溫德爾·瓦拉赫在《科技失控》一書中，詳細探討了高速技術發展引發的道德和倫理爭議，並指出，技術本身可能逐漸成為脫離人類控制的強大力量。他希望科學界、產業界、投資界能夠真正將前沿科技研究納入到監管範疇中，確保新技術研究和應用符合倫理基本原則，真正實現技術服務於人，防止科學技術變成瓦解社會根基的力量。

新技術帶來的負面影響由來已久，19世紀以來尤其是20世紀中期之後逐步變成現實。比如，安眠新葯薩力多胺曾經造成歐洲幾千名嬰兒出生缺陷，而目前正在大量投入使用的納米材料消費品則存在突出的致癌風險。發生在2010年5月6日的美國股市「閃電暴跌」事件，主因竟是計算機高頻交易系統出現故障……這些例子都表明，新技術並存的風險不易預知，「前沿技術的倡導者因追求研究結果的熱情掩蓋了潛在的風險」。

在《科技失控》中，溫德爾·瓦拉赫詳細闡述了多類新技術同期投入使用，對技術、商業管理及社會帶來的複合型壓力，強調複雜系統往往會因為管理、設計缺陷等因素使問題更易發生。此外，還會出現技術薄弱漏洞，這都不是將風險因素通過複雜建模就能夠加以解決的。

應該說，溫德爾·瓦拉赫不是盧德主義者(反技術、反創新者)，在他看來，呈現指數級增長的新技術，很多情況下讓人的理解和應對難以與之匹配。他的觀點是，應當繼續支持科技創新及創新成果投入應用，但要加強上游預防，控制存在潛在好處和風險的技術開發以及投入社會使用的方式。很顯然，如果將這項建議付諸實踐，必然會使一些領域的科技研發放緩，然而卻可以起到幫助人類社會儘可能有效規避因過多、未經風險驗證的新技術應用所帶來的系統性危機。

溫德爾·瓦拉赫在《科技失控》最後三章闡述了加強新技術上游預防的三大操作建議。首先，建立負責任的工程設計文化。讓科技、設計擔負起對人類社會的責任，最重要的就是，完善相關的倫理和法律準則，在新科技產品、服務的設計過程中確保其安全性，並對失控等狀態下的責任做出預設。溫德爾·瓦拉赫還指出，科學界、產業界都應當要求複雜系統必須具備從故障中恢復的能力，強制預設應對複雜問題的解決方案。其次，建立靈活有效的監督機制。其中涉及政府監管體系、非政府組織與相關行業組織共同參與的監督體系，還要加大對新聞媒體報道科技創新內容的把握能力。第三，響應互聯網時代去中心化運作的潮流要求，培育可以質疑、制衡專家的知情公民。也就是說，在包括基因工程、人工智慧等領域的研究中，必須確保創新進展納入公眾監督——事實上，完善公眾監督，也有助於祛除人們對不透明的新技術研究和應用的恐懼心理。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！