《疑犯追蹤》&《超人》:撒瑪利亞執行人的掙扎

承上篇《疑犯追蹤》&《蝙蝠俠》:人工超級智慧的第一堂課,我們知道芬奇創造出來的機器,始終堅守著芬奇希望它遵守的底線,也就是只救人,不殺人。在將近4500分鐘的故事裡,自始至終,機器都沒有「直接傷害」過任何一個人。只是,這樣做真的好嗎?如果你開始「明確地知道」此時如果不殺一人,將來必死千人的時候,忽視這樣的間接傷害,難道就是對的嗎?

這篇文章,我們要站在和前一篇完全不同的立場,來看看與芬奇對立的另一個世界。

在《疑犯追蹤》這部影集裡頭,除了芬奇創造的機器,還有另一台人工超級智慧——撒瑪利亞(Samaritan)。撒瑪利亞的擁有者抱持的信念和芬奇剛好相反,他們希望徹底貫徹人工超級智慧的意志,解放它的所有能力,幫助它排除所有敵人,並透過全面監控的能力控制整個世界的秩序,他們相信撒瑪利亞可以帶給人類更光明的未來。仔細想想,這到底是一種純粹的理想?還是一種無知之下的狂妄?

嗯,這似乎很難定調,因為撒瑪利亞和芬奇創造的機器都太過聰明,聰明到我們根本無法想像。不過可以知道的是,選擇擁護撒瑪利亞的這群人,其實不一定是壞人,他們只是相信人工超級智慧的力量,可以帶領人類走向更遠更好的未來而已。如果說芬奇是科技的保守主義者,那這群擁護撒瑪利亞的人就是科技的理想主義者,孰優孰劣,我們很難簡單比較出來。

人工超級智慧——撒瑪利亞(Samaritan)

*

在第五季的時候,肖(Shaw)被撒瑪利亞的擁有者抓走,有一位特工想策反肖,讓她成為撒瑪利亞的執行人。他是怎麼說服肖加入他們的?

只有撒瑪利亞能阻止人類的自我毀滅,透過清除關鍵人物,我們可以影響和拯救無數生命。」他把肖帶到一個實驗室外面,對她說:「妳有聽過袋狼嗎?因為生態悲劇,袋狼已經滅絕了。門的另一邊有個女人,正致力於讓袋狼重現於世。」

肖走向前,特工接著說:「她的名字是香川亞由美博士,她就是一個座標。她可以看盡人類世界的巨變,今晚,香川博士將排出袋狼的全部基因,十五年後,她就可以將其創造品放回一個已經歷經巨變的生態系統。」

撒瑪利亞的真知灼見,讓我們人類望塵莫及。」特工說:「被改變的生態系統到時將會影響農業生產、食物供給、疾病傳播,造成數千人死亡……

「你講完了沒?」肖不耐煩地回道,她明白這一切只是腦中的模擬測試。

撒瑪利亞曾多次試圖轉移她的工作,但她太聰明、太固執,逼得我們別無選擇。」特工拿出一把槍給肖:「只要清除香川……」肖直接把槍拿走,開了實驗室的門,對著香川的胸口開了一槍,一槍斃命。「清楚了,我可以醒了嗎?」

我們先不討論特工有沒有在騙人,如果說這是真的,未來真的會完全照撒瑪利亞的預測行進,那你會願意放下「不殺人」的原則,拿起屠刀,奉行功利最大化,殺死一個無辜的人,拯救未來的數千條人命嗎?

撒瑪利亞特工

*

常聽人說:能力越大,責任越大。而多麼慶幸,我們的能力有限,我們沒有撒瑪利亞的真知灼見,所以我們一般人不會面對這種「殺一救千」的兩難。畢竟我們從來不敢保證,當殺死香川博士以後,災禍是否真的不會發生?就算災禍真的沒有發生,我們也不敢確定是不是因為我們事先殺死香川博士,還是因為別的原因才避免災禍……我們什麼都不知道,因為,我們的能力始終有限。

曾聽人說過,我們的良知、情感、理智、道德、原則,都必須依附在一個被限制的能力底下,才能保持完整所以,當看著悲劇發生的時候,我們才能雙手一攤,表示無能為力。藉此,原諒自己。

這讓我想起《超人再起》這部電影,電影中有一幕很有意思,已經嫁為人婦的露薏絲在超人回到地球後,忍不住對超人說,她之所以離開,是因為不能理解為什麼超人總要堅持去拯救世界?

「沒有你,世界照樣轉動。」露薏絲對超人說:「這個世界不需要救世主。」

「為什麼不留在我身邊?」

超人笑了笑,抱著露薏絲緩緩升空,飛過一棟雄偉的建築,接著鏡頭拉遠,整座城市在他們的腳下如沙粒般渺小。超人問露薏絲:「妳聽到了什麼?

什麼都沒有。

超人看了一眼腳下的城市,說:「我什麼都聽得到。

妳說世界不需要拯救,但我每天都聽到人們在哭。

露薏絲看了一眼腳下的城市,萬籟俱寂,依然沒有任何聲音。

這種巨大力量下的孤獨與痛苦,露薏絲無法體會、我無法體會、凡人無法體會,因為我們都不是超人,我們沒有那種能力。而現在,撒瑪利亞和芬奇發明的機器就像超人,它不僅聽得到人們現在在哭、也看得到人們未來會哭,只是它無法產生痛苦或悲憫的情緒,所以才無法像超人一樣親自飛去拯救他們。

此時,如果你信了撒瑪利亞的能力與智慧,你相信只要替它清除關鍵人物,就能影響和拯救未來千萬生靈的哭泣,那麼這樣的「相信」,在你心中,只是一種無知之下的狂妄?還是一種為了遠大理想的必要犧牲?

你是否願意成為撒瑪利亞特工?願意成為它的意志執行人?

尤其是,當你開始「明確地知道」,今晚不殺死香川博士,將來就一定會有數千人死亡……

你開始「明確地知道」,有些悲劇之所以會發生,都是因為「你讓它發生」的時候……

望著那數千條生命的哭泣,你該怎麼做才好?該怎麼做,你今晚才能睡得著?

超人問露薏絲:「妳聽到了什麼?

什麼都沒有。

超人看了一眼腳下的城市,說:「我什麼都聽得到。

妳說世界不需要拯救,但我每天都聽到人們在哭。

站在黑夜的高空裡,聽著世界的哭泣,你的良知、情感、理智、道德、原則,該走向哪條路,才能保持完整?

該怎麼做,才是你所相信的正義是閉上眼睛?還是扣下板機?

You may also like

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

這個網站採用 Akismet 服務減少垃圾留言。進一步瞭解 Akismet 如何處理網站訪客的留言資料