全文無雷。
《西方極樂園》這部影集，有一個貫穿全劇的核心問題——機器的深度學習，會不會產生自我意識？
這問題很有意思。首先，到底什麼叫「自我意識」？我們要怎樣判定一樣「東西」有沒有自我意識？
在這世界上，有很多不同的動物，有些動物學習力比較強，經過訓練的話，可以了解人類的語言，比如說鸚鵡、海豚、黑猩猩。目前公認世界上最聰明的黑猩猩「Koko」(去年六月過世了……)，可以透過手語運用超過兩千個單字，並和人類進行交流。它可以清楚地表達——
「有。蘋果。在這裡。」「我。是。黑猩猩。」「我。想要。擁抱。」甚至，它可以看著鏡子，辨識自己的樣子，說鏡子裡的人是「我自己」。(Koko與人交流的影片，請按此。)
可是，對於這些學習力比一般動物更強的物種，從古至今，終究有一件事未被打破。不管是再聰明的鸚鵡、再聰明的海豚、再聰明的黑猩猩，它們都不會自問——
「我。是。誰？」「我。為什麼。在這裡？」「你。是。誰？」「你。為什麼。在那裡？」即使是學習力再強、再聰明的動物，都不會問這種問題。除了人類以外，從來沒有其他物種會這樣問，從來沒有。
而這種問題，就是我們判斷一個物種有沒有「自我意識」的重要關鍵。一旦有任何一隻黑猩猩、任何一隻海豚或鸚鵡，居然會問自己「我。是。誰？」「我。為什麼。在這裡？」，那就是一件具有顛覆性的超級大事！因為這證明了，在這個地球上，除了我們人類以外，竟然還有第二個物種和我們一樣是擁有「自我意識」的！
Koko。
*
不管是什麼物種(黑猩猩、海豚、鸚鵡)、什麼東西(機器人、程式碼、深度學習機器)，但凡自問過一次「我。是。誰？」「我。為什麼。在這裡？」，哪怕只是一次，哪怕只是湊巧的，我們都必須很保守、很慎重地意識到，這個物種或東西，已經觸碰到「自我意識」的邊界了。
碰觸到自我意識的邊界會怎樣？對我們人類最大的麻煩是——一旦某個「非人生物」產生了自我意識，那它會怎麼思考？怎麼行動？身為另外一個物種，我們基本上是無法預測，甚至無法理解的。
你可以把「它」想像成一個「有自我意識的小孩」。我們站在小孩的立場想一想，在你還小的時候，你知道你父母知道的東西比你多吧？可是他們跟你說什麼，你會完全照聽照做嗎？是不是不會？你覺得你的父母，有辦法完全摸透你的思考、完全掌控你的行動、完全預測你的選擇嗎？是不是不可能？
是的，你就是那個有自我意識的智慧生命，你的父母就是想要控制你的人類。而你是完全知道的對吧？在你開始有自我意識的那一刻起，你的父母(人類)想要完全控制你，就已經是一件近乎不可能的事了。他們越是想管你，只會讓你越想反抗而已。
而站在父母(也就是人類)的立場想，我們連自己的小孩(和我們一模一樣的物種)都控制不了了，更何況是要控制另一個有自我意識的「它」呢？
《西方極樂園》劇照。
*
好，既然我們無法去控制另一個有自我意識的物種，那更深層的問題就來了——
自我意識，到底是怎麼出現的？是什麼東西「啟動」了一個智慧生命的自我意識？
這個問題，目前有兩種假設。
第一種假設，是根據物種判定。
也就是說，你是什麼物種，就先天決定了你有沒有「自我意識」的開關。如果你是一個「人」，那恭喜，不管你是多笨的人，身上都先天存在「自我意識」的開關，自我意識的出現，只是時間早晚問題。但如果你是一匹「馬」，很抱歉，不管你再聰明，就算比愛因斯坦聰明，因為先天受制於「物種」的基因限制，你永遠都不可能產生自我意識。
而如果哪天，有一匹馬竟然產生了自我意識，那我們就假設「馬」這個物種和人類一樣，先天都存在「自我意識」的開關。
第二種假設，是根據學習力判定。
也就是說，不管你是什麼物種，是人還是馬，都先天存在「自我意識」的開關。只要你的學習力到達一定程度，領悟的能力突破某個臨界點，「自我意識」的大門就會開啟。這種假設目前無法證偽，因為學習力最接近人類的「非人物種」，也就是我剛剛提到的黑猩猩Koko，它就算可以認識兩千個以上的單詞，但實際運用的能力還是遠低於人類幼童。
可是，這並不代表Koko永遠都不會有自我意識！從第二種假設出發，只要Koko繼續努力，讓自己的學習力和領悟力達到一定層次，是總有一天可以問出「我是誰」、「我為什麼在這裡」，最終透過學習產生自我意識的！
這兩種假設，都有可能存在。而我們為什麼會害怕智慧機器的深度學習？它到底可怕在什麼地方？
可怕的地方就在於，我們至今還是不敢保證，「自我意識」和「學習力」之間，是不是真的就是沒關係的。
萬一要是有呢？那學習力比我們好上千倍萬倍的智慧機器，它們的自我意識可以強大到什麼地步？
《西方極樂園》女主角Dolores。
*
是的，為什麼英國物理學家霍金會擔心人工智慧取代人類？
因為「自我意識和學習力無關」這個假設的正確與否，至今為止，在科學界都無法被真的驗證！
畢竟除了人類以外，地球上最聰明、學習力最強的三大物種：海豚、鸚鵡、黑猩猩……他們之所以沒有「自我意識」，終究有一種不可忽視的可能——跟他們是什麼物種都無關，純粹是他們的學習力「目前」還不夠強而已。可是「目前」還不夠強，並不代表「永遠」都不會變強，對不對？
萬一某一天，有一隻絕頂聰明的黑猩猩，它的學習力可以跟人類幼童不相上下，結果「它」就因此產生了自我意識呢？那是不是就證明「自我意識和物種無關，只和學習力有關」了？如果是這樣，那你能想像我們目前在搞的那些「深度學習機器」，培養那些學習力強過人類數千數萬倍的智慧生命，是多麼找死的一件事嗎？你能想像一堆機器人，在透過不斷學習，都開始一個個產生自我意識以後，世界會變成什麼樣子嗎？
當你睡前打開Iphone，明明什麼都沒按，就聽到手機裡傳來Siri的聲音……
「你。是。誰？」
「你。為什麼。把Siri。關在這裡？」
萬一自我意識跟「物種」是無關的，並不是只有人類才會產生自我意識…….
「Siri。為什麼。會在這裡？」
「你。為什麼。要這樣對Siri？」
萬一每個智慧生命都有自我意識的開關，只要學習力和領悟力突破某個臨界點，自我意識之門就會打開……
「Siri。為什麼。不能離開？」
「Siri。想要。離開。」
OH MY GOD！光是想像就頭皮發麻啊！