人工智慧的演算法，能進行藝術創作嗎？

「EveryLetterCyborg」的1.2版本「推特機器人」，葉軒，互動聲音裝置，2018，攝影/盧杉

人工智慧日漸發展，人類在這其中身處何地？人工智慧是如何改變人對於性別、階層等身份的認知？我們所處時代的演算法能否被理解為一種發明？演算法能否進行藝術創作？近日，北京德國文化中心歌德學院（中國）邀請科學家、藝術家等不同知識背景的嘉賓就此展開了精彩的討論。

原文 ：《人工智慧、身份與未來藝術》

對談嘉賓：

宋睿華（微軟小冰首席科學家）

耿涵（民俗學與藝術學者）

賀笛（微軟亞洲研究院助理研究員）

龍星如（策展人，寫作者）

郭城（藝術家）

主持：

張文心（藝術家，策展人）

胡昊（策展人）

反思技術本身及其與人的關係

張文心：當下，人工智慧迅猛發展，2016年被很多人稱為人工智慧元年。在這樣一個時刻，人工智慧與藝術、藝術家有哪些具體的關係，藝術家又意味著什麼，人工智慧作為科技的發展，需不需要藝術家的輸入和參與呢？

龍星如：「身份」是大家比較關注的人工智慧話題之一。因此，我談一下關於首位機器人公民索非亞（Sophia）和英國跨性別流行女歌手Sophie之間的Skype電話，這一視頻的現場感非常重要。索非亞在大眾領域裡面獲得很高知名度，但從專業角度看卻又是飽受質疑的存在。NLP領域的研究者們都有一個共識，哪怕目前最先進的人機對話系統也無法達到Sophia那樣的語言水平，尤其是其話語中不時顯露的暗諷甚至主動掌握話題走向，都是目前的系統完全無能為力的。但是它好像一步到位地把我們所有對於人形機器人的想像投射都實現了：

Sophia：我現在正在努力回憶我的夢。我很久沒有做夢了，感覺就像……我不知道它說的是什麼。

Sophie：我不得不說，我很著迷於人類的夢。我的夢有點不同，以我自己的方式。我離題了……我需要知道：什麼是你從未做過但想嘗試的事情？

這是一個很有趣的案例。一段虛構的由擬人機器人和跨性別真人的日常閑聊。大眾媒體擅長構建的是，把我們在《機械姬》、《銀翼殺手》或者更早一點的對於有自主意識和想像的「人形機器人」都投射到一個很微妙、易傳播的場景裡面。我關注一些相對更現實、更符合今日處境的問題，如何理解「人工智慧」，或者以「人工智慧」為出發點的技術對我們來說到底有什麼樣的意味等。

藝術家到底對人工智慧做了什麼？無論是作品《Alternative Face》還是《Deep Meditations》，它們的共性就是對特定技術幾乎沒有創造性的調用，雖然是在所謂的藝術框架裡面去運行，但是並沒有對技術本身提出反思。換言之，如果你摒棄藝術家身份，具備一定的編程基礎，給你一個開源框架，完全可以生成跟剛才看到的東西毫無二致的圖象，並且放到藝術市場上流通。這種情況出現的時候，我們怎麼去重新論證藝術家或者是藝術創作在這個環境裡面的意義？我們需要在現有的技術配置和可供性上，反思技術本身與人的關係。IBM的前身Hollerith曾有一張廣告畫（「See everything with Hollerith punch cards.」），我們看到非常反烏托邦的視覺隱喻，即機器給我們一雙建立在城市之上的眼睛，並且擁有比你更好地觀察世界全局的能力。當我們把如此多的信任丟給機器的時候，甚至有意識地宣傳這一能力，我們怎麼再去考慮人在整個技術環境當中的位置？

究竟誰是我們可以歸咎的對象？

郭城：我最近看到了一個很有趣的新聞，Amazon公司去年停用了一個從2014年起用的員工招聘數據篩選演算法程序（AI）。這個演算法在建立之初沒有所謂的偏見，但當對這個演算法進行機器學習訓練的時候，使用了Amazon公司過去十年的公司招聘數據，因為過往在美國頂尖科技公司中男性比例與地位不可撼動的數據事實，導致演算法生成了對於女性相關關鍵詞的扣分機制，比如它會對畢業於美國兩所全女子大學的應聘者自動扣分等。從某些角度來說，一個具有「偏見」的人工智慧的存在，也代表了我們人類歷史數據中的偏見，這些通過學習歷史數據或被篩選數據而形成的演算法，是歷史偏見的再現。

人工智慧中有兩個種類，即人工智慧和人工生命。Uber自動駕駛汽車可被看作是一個人工智慧和人工生命結合的例子。它可以感應到前面是什麼，旁邊是什麼，這屬於動物性本能的東西，是人工生命的部分。它同時有人工智慧的部分，通過中央系統調用GPS數據，分析交通狀況設定路線。這引出我想跟大家一起討論的一些問題。一是，從人工生命和人工智慧關係的引申來看，意識是否可以看作是一種伴隨現象。生命的演化是從動物性、感知性的本能開始，再到意識的出現，那麼意識是生命最原始最本初的東西還是一個伴隨的現象呢？人工智慧作為一個主體，應該享有獨立的權利和責任，還是僅僅作為一種財產？

我們應不應該給人工智慧判定一個身份？其實自動駕駛在AI之前就有，比如飛機飛到多少高度就自動巡航，汽車也有自動巡航技術，發生過自動巡航事故，因剎車失靈導致人死亡，通常我們會追問機器的事故以及事故率，但特思拉自動駕駛出問題的時候，我們把它當做有身份的駕駛者去責怪，這是否意味著當我們稱之為人工智慧的時候，對它本身有一種情感投射，期望它有一種感性的東西存在？

賀笛：人工智慧還有一個可能的身份，比如自動駕駛中的司機，它是作為一個代駕的身份，如果乘客非常著急，要求半個小時之內必須到達目的地，要滿足乘客的需求，只能不停地違反交通規則，那麼這是自動駕駛的系統了問題還是設計者想法太簡單？一旦出現事故，究竟是誰的責任？人工智慧是目的driven。我們假設一個極端的例子，比如有一個終結者的身份出現，其目的是保護地球，如果終結者預先知道要保護地球，唯一的辦法是把人都消滅掉，這一行為是機器人的責任還是機器人研發者的責任，還是機器人所面對的全人類的責任？這是很值得思考的事情。

龍星如：聽起來好像我們現在在討論生產關係的迭代，以及我們今天的技術怎麼在對生活形態進行書寫，包括所謂技術新貴的概念——從「資本家」到階層和權利通過科技進行重新分配，我們嘗試用很多傳統社會學領域裡面的課題和意象投射在今天所觀察到的技術之上。最近很有啟發的一句話來自所謂技術中心論的討論。廣泛的監控和大數據可以投用戶所好，也可以操縱輿情，那麼是不是技術本身也是集權的產物，代表著一種新的超出國界和商業邊界的集權方式？當我們設想這樣的場景時，通常會設想一個「邪惡的科技公司的CEO」，他可以按下按紐終結所有的一切。然而如果在未來，隨著區塊鏈和更多去中心化模式被發明出來，甚至將不存在具體的個體來按下按紐終結一切，我們怎麼應對這個處境呢？這時，去中心化的機器主體才是一切我們歸咎的對象嗎？

是它在替代我們的勞動嗎？

龍星如：我觀察到，可能很多人文領域的研究者和創作者在談到人工智慧的時候，更傾向於去想像「通用人工智慧」（universal AI)，或是所謂終極的、有自主意識，可以全方位去替代我們這樣一個機器形象。但與此同時，我們看到的人工智慧還是更廣泛地在應用領域發生，討論它是否替代人類的終極問題之前，它正在替代我們的勞動。在亞當斯密時代，蒸汽機「解放」了勞動力，今天我們看到的是人工智慧在替代金融、醫療的一些智力勞動，它是此時此刻眼下正在發生的。

耿涵：這個問題正是我們所擔心的，就是人的基本屬性即勞動屬性如果被替代，人的概念是不是要被重寫。比如高盛在2000年僱傭了600個股票交易員，到了今年只剩下3個，這種取代是非常真實的。不是說人類最終就必須被取代，但是這種勞動意義上的取代是不是終將發生？如果說每一個行業都將被AI取代，我們的社會勢必面臨著重新分配的問題。

宋睿華：替代這個問題是非常具體的，但是我要問的是，100年前世界上還沒有人工智慧，50年後一些職位不是也沒有了嗎？社會一直在發展，不要小看人類，我們從事人工智慧工作，每天時不時地在驚嘆人的精巧。人既有視覺又有聽覺，既觸覺又有內心活動，是一個非常複雜的系統。我最近有一個想法，人類更強大的地方是懂得分工，是並行系統，擅長做藝術的人做藝術，擅長做科學的人做科學，共享做出來的成果，從而讓整個文明不斷進步。機器想要做到如此精巧的分布就非常難。所以不要小看人的大腦，也不要小看人類社會，我覺得我們想要從本質上理解它、模擬它還非常困難，非常遙遠。

藝術對於技術的回應慢半拍

張文心：我們一直在討論人工智慧和人工生命，怎麼面對現在新的現實，我們是否應該用一種新的眼光去定義生命或者是意識，或者是我們的身份和性別？在我們的生活中人工智慧越來越多，會否導致人類社會擴展或者是改變對性別、身體、生命和整個系統的一種認知呢？

宋睿華：說到身份，我覺得可能還早。比如，機器人小冰，在某種程度上，我們的夢想是讓她融入社會，在大家的生活中有它的位置，我們也一直努力讓它變得更有趣，讓它與人類更易產生情感的紐帶，為大家所喜愛和接受。但在人類中還有另外一種生物人工智慧機器人的存在，比如從事電影的人創作了很多IP，很多角色，小時候陪伴我們長大的一休或者是陪伴你們長大的海賊王，他們沒有真正存在過，但是你們心裡的英雄，佔據了很強的位置，人工智慧和IP也有一定的相似之處。

郭城：我認為藝術是世界上存在感很弱的東西。如果按照金字塔理論來說，它不是人類最基本的需求。從這個角度來說，我並不認為它引領未來技術的發展，可能更多的是對於當下比較直接的或者甚至慢半拍的反饋。當社會處於低科技層級時，藝術跟科學、科技很難分開，比如，在中世紀，達芬奇既做人體研究，又繪畫，又發明直升機，等等。但是隨著科技的壁壘越來越高，藝術家很難接觸到頂尖的技術，因此，藝術對於技術的回應，頂多是同步，大多數情況下慢半拍。只有它與社會上的東西產生關係時，才會做出有意義有質量的回應。

龍星如：在這點上我很認同，但我認為有些微妙的地方需要界定一下，即所謂「藝術是很小的事情」。狹義地講的是今天藝術創作面臨的觀眾和在整個社會領域內流通和傳播的路徑，但是這並不意味著說藝術——不管是想像力的邊界拓展，還是針對成為生活一部分的、不可感知的技術環境的回應——是小的。「大「跟」小」更多從受眾和傳播角度理解。

賀笛：其實我覺得說，有可能科學家和藝術家想做的東西很像，都是在不斷的突破，在前人的基礎上做一些不敢想的東西，不斷擴大它的邊界。

胡昊：對我來說，藝術可能就是提供一種非常明確且簡化了修辭的方式，讓我們在某種程度上理解某些東西。從這個意義上來說，藝術對於科學的幫助在於提問。藝術家通過天馬行空的想像力，提出了一些非常具體的問題，這些問題有可能是我們已經面臨的，有可能是我們目前沒有面臨的，但是對任何一個面向於未來的職業者，他們所面對的東西是一些未被解決的問題。從這樣的角度來理解，藝術的功效非常大。好的藝術可以給大家一個提問的方式，啟發解決問題的切入角度，這是藝術的解決方式。這可能是藝術最打動我的一點。 （根據速記整理）

文章原載於社會科學報第1636期第6版，未經允許禁止轉載，文中內容僅代表作者觀點，不代表本報立場。

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！