傅盛對話邁克斯·泰格馬克：一定要讓AI用於有益於人的方面

9月19日下午，獵豹移動董事長兼CEO傅盛和《生命3.0》的作者、未來生命研究所的聯合創始人邁克斯·泰格馬克進行了一場有關AI的對話，雙方探討了中美AI的發展、AI安全、AI和人的關係以及AI的未來等話題。

傅盛表示，從哲學的角度上來說，人類作為一個生命形式是肯定會被超越的，我們今天之所以在這裡實際上是一個環境的產物，是環境不斷地變化才使得生命往複雜在變化。但從技術的角度，他不認為AI能有機會超越人，AI將是生命2.5、2.6、2.7的形式。

邁克斯·泰格馬克表示，把機器人現有的水平和邏輯思維的能力結合在一起，我們也許就可以實現通用人工智慧，可以自己造一個神，讓它去實現我們人類的目標。

以下為對話實錄節選：

中國AI技術應用很發達，美國基礎研究做得更好

主持人：兩位覺得中美兩國在AI領域上面的差異到底有哪些？中國在AI領域上面的優勢在哪裡？

傅盛：在AI領域的應用層面上，中國的確是領先的。但是在底層AI規律的探索上，我認為，今天美國還是有一大批的科學家和思想家，他們開創性的貢獻和思考是我們今天還不能比的。

第一，大家可能知道一個關於AI的論文數。好像華人貢獻的論文超過了非華人，事實上論文是有質量之分的，就是關鍵性的論文，其實現在大部分還不是華人貢獻的。

第二，即便是華人貢獻論文，在中國本土的華人貢獻的論文只佔了2%，即便大部分華人貢獻論文，本質上也是美國的科學家或者是關鍵性的人。

這就是中美兩國今天關於AI的現狀。我們能夠迅速的把一種已經被證明的技術用更大的規模、更高效率地去應用，但是在真正的「開腦洞」、開創性的思維邏輯上，其實我們還是有非常大的不足。

邁克斯·泰格馬克：剛才你說的我覺得有兩點想法：

第一，中國現在在技術上還有應用上都非常的發達。在基礎研究方面，美國人寫了很多的論文，但是這些論文其實更多都是在美國的其它國家的人寫的，比如說我自己，我就是一個瑞典人，現在是在美國工作，我有很多優秀的學生他們都來自中國。所以，美國在人工智慧基礎方面的發達，不光是和人有關，也和美國的文化有關。美國有非常多的好的大學，我們的矽谷也是一個很好的吸引人才的環境。所以，我們就有著來自世界各地的人才。

第二，從文化層面上來說，我們人類面臨的是人類和機器相融合、人類和機器和平共處的未來，我認為中國不僅在技術方面不斷進步，在文化的方面中國也有著朝前看的傳統，想事情都會從一個非常長遠的角度去出發、思考。如果中國能夠繼續以高瞻遠矚的思維方式，結合技術，中國在AI的發展上一定能有自己獨特的優勢去引領行業。

AI的研究者一定要讓技術應用於好的方面

主持人：在不久之前，邁克斯·泰格馬克教授發起了一個組織——未來生命研究所，也發起了抵制殺手機器人的一項運動。兩位如何看待AI安全、機器人安全這個問題，現在討論這個問題的意義到底在哪裡？

邁克斯·泰格馬克：我非常支持AI研究者簽署這項禁令。我們的AI的研究者一定要劃清界限，讓AI用於好的方面，而不是讓它用來殺人。生化的發展已經用於治癒很多的疾病。AI的研究者也可以像生物化學家一樣，嚴禁把生物化學武器用在非常邪惡的事情上面。我們現在禁止研究致命性的AI殺人武器，也是我們希望AI能夠用於有益於人類的事業上面。

在大的層面上我對人類的未來還是很樂觀的。在科技不是那麼發達的時候，我們都是從錯誤中的學習。但是現在人類的科技正在不斷地進步，所以我們不能再這樣從錯誤中學習了，而是能夠提前預測科技可能給人類帶來的危害。我們要有一些前瞻性的措施，才能保證未來這些非常強大的技術都用在有益於人類的事情上面。

我覺得中國在前瞻性方面是值得欽佩的，我也希望中國在這個方面能夠領先世界，用非常好的文化傳統去禁止AI的自動化殺人武器。

傅盛：我有一個問題想問一下教授，核武器、生化武器有非常清晰的界限，但是AI武器的界定好像比較難。比如說飛機的自動瞄準、無人機的自動駕駛、自動攻擊算不算一種AI武器？如何去劃清楚這個界限？

邁克斯·泰格馬克：我們討論的自動化殺人武器是一個比較窄的方面，也就是說自動化殺人武器的致命性，而不是反對建造那種去消滅敵人的導彈防禦系統。就像生物化學家在致命性的生化武器研發之前，就已經達成一致，不去研發這種有害的生化武器，所以我覺得這一點也是我們在道德層面的責任。

當機器能自我學習時，人類如何面對？

主持人：獵豹移動是一家有著人機交互基因的公司，給我們提供做機器人產品的思路。我在想，真的到了《生命3.0》階段，當這個機器人甚至都可以達到自我學習、自我提升的狀態時，人是不是就會被機器人所超越和取代，我們將去如何面對這樣的一個未來？

傅盛：讀完教授的書我就想起了中國的一個詞叫「滄海一粟」。其實人類在整個的生命進化當中，其實就是滄海一粟。而且我們從來沒想過我們會出現在這裡，我覺得整個人類的發展史是一個，把自己從中心地位不斷地給去中心化的過程。

從哲學的角度上來說，人類作為一個生命形式是肯定會被超越的，我們今天之所以在這裡實際上是一個環境的產物，是環境不斷地變化才使得生命往複雜在變化。我自己的觀點我也不覺得有啥悲哀的，像今天的黑猩猩其實也過得挺快樂的一樣。

從技術觀點上來說，我個人不太認為基於深度學習的AI，能夠有機會超越人。但是，未來的人和機器會是什麼樣的生命體呢？從在現實角度來看，我認為是生命2.5、2.6、2.7的形式。就像埃隆馬斯克現在做的Neuralink（腦機交互），讓人腦和AI發生更直接的交互、集成，使得我們整個生命再上一個檔次，這個可能是看得到的更有效的路徑。

邁克斯·泰格馬克：剛才傅總也提到了我們人類其實是進化而來，而不是上帝創造的。未來AI的發展可以讓我們人類造一個神，創造一個我們所期待的未來。未來是什麼樣，是我們今天的意願去決定的。

現在AI還沒那麼聰明，但還會繼續發展，把機器人現有的水平和邏輯思維的能力結合在一起，我們也許就可以實現通用人工智慧，可以自己造一個神，讓它去實現我們人類的目標。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！