也要考慮人工智慧的間接威脅
來源:《中國人工智慧學會通訊》2018年第1期
觀點交鋒
CAAI 2018年 第8卷 第1期權禎臻 譯
也要考慮人工智慧的間接威脅
作者：Staff C
出處：Communications of the ACM, Vol.60 No.4, April 2017 Pages 8-9
鑒於人工智慧（AI）近年來取得的成 就，Alan Bundy 的觀點「 智能機器不會對人類造成威脅」（2017 年 2月）就顯得太局限了。將整個人工智慧領域縮減到四個「成功的人工智慧系統」——DeepBlue、Tartan Racing、Watson 和AlphaGo，並不能顯示出人工智慧對於人類的全部影響。主要是依靠深度學習，最近模式識別方面取得了巨大進展，因為計算機視覺和語音識別已經達到了與人類相當的水平。比如人工智慧技術電子監控系統及蘋果公司的 Siri 和亞馬遜的 Echo 個人助理軟體。由這些人工智慧演算法取得的成果，可以想像在不久的將來，我們可能在通訊網路、計算機介面及上千萬物聯網設備上實現智能化。Deepmind 技術公司（2014 年被谷歌收購）為此發明了一個博弈程序，該程序將深度學習與強化學習相結合，能夠看棋盤、走棋子。近期在生成對抗學習方面的發展，將降低對有標記數據（及負責做標記的工作人員）的依賴，而向著能夠自我提升的機器學習軟體方向發展。
並非因為四種廣為人知的人工智慧應用在設計上集中於某個領域，所以智能機器不會對人類造成威脅。這是一種錯誤的假定。智能機器會通過間接的方式威脅人類，因為目前智能的發展已達到了很高水平。
參考文獻
1 Mnih, V. et al. Human-level control through deep reinforcement learning. Nature 518 (Feb. 26, 2015), 529-533.
2 Xiong, W. et al. Achieving human parity in conversational speech recognition. arXiv (Feb. 17, 2017); https://arxiv.org/
abs/1610.05256.
Myriam Abramson, 弗吉尼亞州阿靈頓
作者的回復
Abramson 誤解了我的意思。人工智慧系統在設計上並不僅僅集中於某個具體領域，因為我們尚且需要實現通用人工智慧——一個看起來依然很遙遠的目標。我列舉的四個例子是描述人工智慧程序時引用量最多的例子。她的反應恰恰說明了我的主要觀點——人們很容易犯這種錯誤，即由個別領域取得的輝煌成就臆測所有領域都取得了成功。（人工智慧系統）的確給個人帶來了危險，但並不會威及人類。
Alan Bundy, 蘇格蘭愛丁堡
古斯塔夫森定律與理論結果相矛盾
Peter J. Denning 和 Ted G. Lewis 的文章《計算增長的指數定律》（2017 年 1月）引用了古斯塔夫森定律（摘自 John L.Gustafson的文章《重新評估阿姆達爾定律》，1988 年 5 月）來反駁阿姆達爾定律。不幸的是，古斯塔夫森定律本身就與已建立的理論結果相矛盾。
Amdahl 和 Gustafson 二人都聲稱可以量化 N 個處理器實現的加速比 t1/tN，其中N>1,t1 是用一個處理器解決計算問題所花費的時間，tN 是用 N 個處理器解決同一問題所花費的時間。Gustafson 設法解釋實驗結果，其提出
t1/tN=s+N(1-s)
其中 s(0
尋找 n 個整數中最大值的順序運行時間t1 (n) ≤ cn，此過程需要進行 n-1 次比較，且在最壞情況下需進行 n-1 次分配，其中 c是一個正常數。基於 Gustafson 提出的等式，使用 N 個處理器尋找 n 個整數中的最大值所需時間應為
tN (n) ≤ cn/(s+N(1-s))
該式對於任意與 n 成比例的 N 有一個常數界，且對於固定的 n，當 N 趨近無窮時，該式接近 0。
然而，Cook 和 Dwork 在 1982 年給出了使用無限多個並行隨機存取機 (PRAM)在非同時寫的情況下，尋找 n 個整數中最大值的下界 Ω(log n)。
Fich 等人在 1985 年證明了優先權模型處理相同問題的一個下界為 Ω(log n), 其為了防止寫衝突，擁有最高優先權的處理機具有寫功能。優先權模型是最健壯的允許同時寫的 PRAM 模型。
盡 管 如 此，Denning 和 Lewis 指 出 阿姆達爾定律有缺陷這一觀點是正確的。與Amdahl 的假設相反，現已證明（儘管沒有參考阿姆達爾定律）理論上不存在內在的連續計算。儘管連續計算（例如序列並發計算和 Lamport 的麵包房演算法）也許會出現在並發系統中，若並行部分的增長率高於順序部分的增長率，則其對加速比幾乎不起作用。
參考文獻
1 Cook, S.A. and Dwork, C. Bounds on the time for parallel RAM』s to compute simple functions. In Proceedings of the 14thAnnual ACM Symposium on Theory of Computing (San Francisco, CA, May 5–7). ACM Press, New York, 1982, 231-233.
2 Fich, F.E., Meyer auf der Heide, F., Ragde, P., and Wigderson, A. One, two, three ... infinity: Lower bounds forparallel computation. In Proceedings of the 17th Annual ACM Symposium on Theory of Computing (Providence, RI,May 6–8). ACM Press, New York,1985, 48-58.
Ferenc (Frank) Dévai, 英國倫敦
作者的回復
通過對不同的數據元素並行執行相同操作，古斯塔夫森定律給出了數據並行處理的界。尋找 n 個元素中最大值的標準串列演算法無法並行處理，且阿姆達爾定律指出無提速。然而，對成對的數字進行 log n 輪比較以尋找最大值的方法可並行，並實現了 n/log n ≤ n(1-p)的加速比，與古斯塔夫森定律一致。我們的觀點是並非所有演算法通過數據並行化都可實現並行，而是由於如此多基於雲的操作實現了數據並行模式，使得數據並行化目前為計算能力貢獻了指數性的增長。
Peter J. Denning 和 Ted G. Lewis，加州蒙特瑞市
也要將「社會」嵌入到應用軟體中
Ivar Jacobson 等人的文章《工業規模的敏捷開發——從工藝到工程》（2016 年 12月）描述了軟體發展應當如何從工藝轉向工程，但是他們提出的方法完全忽視了我一般謂之應用軟體的「社會嵌入」的考量。隨著越來越多的軟體融入到我們的日常生活，我們四周環繞著智能房屋、智能城市、智能醫藥設備，以及無人駕駛汽車，人們對社會技術的關注度也逐漸提升，不僅是由於對隱私和安全的關注，也是由於對法律限制、用戶多樣性、人類工程學，以及信任、包容和精神上的考慮。這不僅僅事關傳統需求工程。許多此類考量與抽象法律、社會、倫理道德和文化規範有關，因而軟體需要實現從抽象規範水平到具體技術工件的艱難轉變。關鍵一點是對社會嵌入的這種關注也許會導致軟體設計需求間產生矛盾，因而應當在系統性的集成開發過程中給出說明。這種轉換的結果決定了應用軟體的接受度和可接受性。從這個角度看，Jacobson等人仍停留在軟體工程的「舊世界」，沒有適當關注應用軟體對於諸如你我這種用戶的角色轉變。
Kurt Geihs, 德國卡塞爾
作者的回復
Geihs 對於 Essence（即我們在文章中探討的新準則）與其所謂的「社會嵌入」並不直接相關的觀點絕對正確，但這是有意的。總的來說，Essence 代表了軟體工程的一個共同基礎，其開發者們在他們所得出的結論方面一直非常保守。然而，Essence 的設計旨在由任何已知的具體做法對其進行擴展，包括以人為中心、以技術為中心及以用戶為中心。由於 Essence 小而實用，若其可作為 Geihs 尋找的那種平台，任何熟悉它的人都不會感到驚訝。
Ivar Jacobson, Ian Spence 和 Ed Seidewitz，
弗吉尼亞州亞歷山德里亞
作者介紹：權禎臻
南京航空航天大學計算機科學與技術學院模式識別與智能計算實驗室（PARNEC）碩士研究生。作為第一作者的論文《結合弱監督信息的凸聚類研究》已發表於《計算機研究與發展》期刊，並被評為 CCFAI2017 最佳學生論文。主要研究方向為機器學習與模式識別。
微信號：CAAI-MemberCenter
CAAI會員中心
TAG:CAAI會員中心 |