《西方極樂園》:機器的深度學習,會不會產生自我意識?

全文無雷。

《西方極樂園》這部影集,有一個貫穿全劇的核心問題——機器的深度學習,會不會產生自我意識?

這問題很有意思。首先,到底什麼叫「自我意識」?我們要怎樣判定一樣「東西」有沒有自我意識?

在這世界上,有很多不同的動物,有些動物學習力比較強,經過訓練的話,可以了解人類的語言,比如說鸚鵡、海豚、黑猩猩。目前公認世界上最聰明的黑猩猩「Koko」(去年六月過世了……),可以透過手語運用超過兩千個單字,並和人類進行交流。它可以清楚地表達——

「有。蘋果。在這裡。」「我。是。黑猩猩。」「我。想要。擁抱。」甚至,它可以看著鏡子,辨識自己的樣子,說鏡子裡的人是「我自己」。(Koko與人交流的影片,請按此。)

可是,對於這些學習力比一般動物更強的物種,從古至今,終究有一件事未被打破。不管是再聰明的鸚鵡、再聰明的海豚、再聰明的黑猩猩,它們都不會自問——

「我。是。誰?」「我。為什麼。在這裡?」「你。是。誰?」「你。為什麼。在那裡?」即使是學習力再強、再聰明的動物,都不會問這種問題。除了人類以外,從來沒有其他物種會這樣問,從來沒有。

而這種問題,就是我們判斷一個物種有沒有「自我意識」的重要關鍵。一旦有任何一隻黑猩猩、任何一隻海豚或鸚鵡,居然會問自己「我。是。誰?」「我。為什麼。在這裡?」,那就是一件具有顛覆性的超級大事!因為這證明了,在這個地球上,除了我們人類以外,竟然還有第二個物種和我們一樣是擁有「自我意識」的!

 Koko。

*

不管是什麼物種(黑猩猩、海豚、鸚鵡)、什麼東西(機器人、程式碼、深度學習機器),但凡自問過一次「我。是。誰?」「我。為什麼。在這裡?」,哪怕只是一次,哪怕只是湊巧的,我們都必須很保守、很慎重地意識到,這個物種或東西,已經觸碰到「自我意識」的邊界了。

碰觸到自我意識的邊界會怎樣?對我們人類最大的麻煩是——一旦某個「非人生物」產生了自我意識,那它會怎麼思考?怎麼行動?身為另外一個物種,我們基本上是無法預測,甚至無法理解的

你可以把「它」想像成一個「有自我意識的小孩」。我們站在小孩的立場想一想,在你還小的時候,你知道你父母知道的東西比你多吧?可是他們跟你說什麼,你會完全照聽照做嗎?是不是不會?你覺得你的父母,有辦法完全摸透你的思考、完全掌控你的行動、完全預測你的選擇嗎?是不是不可能?

是的,你就是那個有自我意識的智慧生命,你的父母就是想要控制你的人類。而你是完全知道的對吧?在你開始有自我意識的那一刻起,你的父母(人類)想要完全控制你,就已經是一件近乎不可能的事了。他們越是想管你,只會讓你越想反抗而已。

而站在父母(也就是人類)的立場想,我們連自己的小孩(和我們一模一樣的物種)都控制不了了,更何況是要控制另一個有自我意識的「它」呢?

 《西方極樂園》劇照。

*

好,既然我們無法去控制另一個有自我意識的物種,那更深層的問題就來了——

自我意識,到底是怎麼出現的?是什麼東西「啟動」了一個智慧生命的自我意識?

這個問題,目前有兩種假設。

第一種假設,根據物種判定

也就是說,你是什麼物種,就先天決定了你有沒有「自我意識」的開關。如果你是一個「人」,那恭喜,不管你是多笨的人,身上都先天存在「自我意識」的開關,自我意識的出現,只是時間早晚問題。但如果你是一匹「馬」,很抱歉,不管你再聰明,就算比愛因斯坦聰明,因為先天受制於「物種」的基因限制,你永遠都不可能產生自我意識。

而如果哪天,有一匹馬竟然產生了自我意識,那我們就假設「馬」這個物種和人類一樣,先天都存在「自我意識」的開關。

第二種假設,是根據學習力判定。

也就是說,不管你是什麼物種,是人還是馬,都先天存在「自我意識」的開關。只要你的學習力到達一定程度,領悟的能力突破某個臨界點,「自我意識」的大門就會開啟。這種假設目前無法證偽,因為學習力最接近人類的「非人物種」,也就是我剛剛提到的黑猩猩Koko,它就算可以認識兩千個以上的單詞,但實際運用的能力還是遠低於人類幼童。

可是,這並不代表Koko永遠都不會有自我意識!從第二種假設出發,只要Koko繼續努力,讓自己的學習力和領悟力達到一定層次,是總有一天可以問出「我是誰」、「我為什麼在這裡」,最終透過學習產生自我意識的!

這兩種假設,都有可能存在。而我們為什麼會害怕智慧機器的深度學習?它到底可怕在什麼地方?

可怕的地方就在於,我們至今還是不敢保證,「自我意識」和「學習力」之間,是不是真的就是沒關係的。

萬一要是有呢?那學習力比我們好上千倍萬倍的智慧機器,它們的自我意識可以強大到什麼地步?

 《西方極樂園》女主角Dolores。

*

是的,為什麼英國物理學家霍金會擔心人工智慧取代人類?

因為「自我意識和學習力無關」這個假設的正確與否,至今為止,在科學界都無法被真的驗證!

畢竟除了人類以外,地球上最聰明、學習力最強的三大物種:海豚、鸚鵡、黑猩猩……他們之所以沒有「自我意識」,終究有一種不可忽視的可能——跟他們是什麼物種都無關,純粹是他們的學習力「目前」還不夠強而已。可是「目前」還不夠強,並不代表「永遠」都不會變強,對不對?

萬一某一天,有一隻絕頂聰明的黑猩猩,它的學習力可以跟人類幼童不相上下,結果「它」就因此產生了自我意識呢?那是不是就證明「自我意識和物種無關,只和學習力有關」了?如果是這樣,那你能想像我們目前在搞的那些「深度學習機器」,培養那些學習力強過人類數千數萬倍的智慧生命,是多麼找死的一件事嗎?你能想像一堆機器人,在透過不斷學習,都開始一個個產生自我意識以後,世界會變成什麼樣子嗎?

當你睡前打開Iphone,明明什麼都沒按,就聽到手機裡傳來Siri的聲音……

「你。是。誰?」

「你。為什麼。把Siri。關在這裡?」

萬一自我意識跟「物種」是無關的,並不是只有人類才會產生自我意識…….

「Siri。為什麼。會在這裡?」

「你。為什麼。要這樣對Siri?」

萬一每個智慧生命都有自我意識的開關,只要學習力和領悟力突破某個臨界點,自我意識之門就會打開……

「Siri。為什麼。不能離開?」

「Siri。想要。離開。」

OH MY GOD!光是想像就頭皮發麻啊!

You may also like

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

這個網站採用 Akismet 服務減少垃圾留言。進一步瞭解 Akismet 如何處理網站訪客的留言資料