《疑犯追蹤》&《蝙蝠俠》:人工超級智慧的第一堂課

在《疑犯追蹤》這部影集中,芬奇發明了一台可以預測犯罪的人工超級智慧(Artificial Super Intelligence)——Machine(以下簡稱「機器」)。他讓機器從事監控,並透過它的自主學習能力分析大量數據,在恐怖攻擊真正發生以前,幫助政府率先找出罪犯,這台機器的出售價格是一塊美金。

芬奇最初創造機器的動機,確實是為了讓世界變得更加美好,人類也是受益的一方。只是進一步想,我們真的會願意把所有資訊和隱私,全都交付給一個人工超級智慧去解讀嗎?我們要如何確保這些資訊的安全?要如何讓資訊不遭到有心人士的濫用?要如何保證機器永遠不會失控?要如何確定它有沒有自由意志?甚至,會不會視人類為敵?

嗯,我們好像什麼都不知道,因為我們從沒擁有過如此強大的力量,也從未多去想過。而《疑犯追蹤》的迷人之處就在這裡,諾蘭導演透過這種無所不在的監控、難以控制的人工超級智慧,以及無法捉摸的複雜人性,描繪出一個細思極恐的未來世界。

諾蘭導演

*

還記得第四季有一幕,是芬奇在教機器下棋。機器的第一手猶豫非常久,於是芬奇對它說:「你下的每一步,都會打開一盤不同的局、一個截然不同的宇宙。下第二步時,會有72084種不同的可能。第三步時,900萬。第四步時……」

「318,000,000,000。」機器瞬間計算出來。

芬奇接著說:「棋局中的變化數量超過宇宙間的原子。沒有人能預知一切,你也不能。」

後來,芬奇與機器開始對弈,機器的學習能力極為快速,芬奇很快就落於下風,於是他好奇問了一句:「在下這步棋以前,你考慮過幾種走法?」

「47,035。」機器說道。

只花了一個下午的時間,芬奇就讓機器透過自我學習,達到人類幾乎永遠無法達到的水平。面對擁有如此強大學習力和發展潛力的人工超級智慧,如果放任其不斷成長,倘若哪天失控或遭到濫用呢?那對人類的威脅是否也是毀滅性的?這樣的人工超級智慧,是造福世間的上帝?還是毀滅世間的武器?坦白說,看完105集超過4000分鐘的《疑犯追蹤》,諾蘭導演依舊沒有給出一個明確的答案。

芬奇

*

我們可以知道的是,芬奇創造出來的機器始終堅守著芬奇希望它遵守的原則,也就是只救人,不殺人。在將近4500分鐘的故事中,自始至終,機器都沒有「直接傷害」過任何一個人。

還記得芬奇和機器下棋時,芬奇曾這樣對它說:「多年來,很多喜歡思考的人為棋癡迷。但我不喜歡下棋,你知道為什麼嗎?」

「不知道。」機器答道。

「因為這種遊戲誕生於一個殘酷的時代,當時的生命是不被重視的。所有人都相信,生命有貴賤之分,如(西洋棋中的)國王、(西洋棋中的)兵卒。但我不認為生命有貴賤之分,我知道你未來會遇上許多沉重的決定,有一天我會離去,沒人能再陪你說話……但就算你忘記了一切,也請一定要記得——棋,只是遊戲而已。人,不是棋子。你不能認定生命的貴賤,包括我的命,包括任何人的命。人命不可以被犧牲,你要學會的是:如果有人把這世界當成一盤棋在玩,那他注定要失敗。

芬奇的意思是,人命沒有高低貴賤之分。所以,當機器未來面臨「殺一可以救百」的道德兩難時,他不可以做出「殺一」的判斷!

不得不說,我真的太喜歡這樣的設定了!雖然魚群我不是學法律的,但我知道(而且很確定)在比例原則的世界裡,人的生命已經達到最高點,而最高點是無從進行比較的。也就是說,一條人命的價值,和一百條人命的價值,在比例原則的世界裡是等量的,兩者並無高低之別。把這樣的概念當成人工超級智慧的第一課,也是最重要的一課,這樣的設定真是讓人佩服!

我始終相信,面對「殺一救百」的難題,會傾向選擇殺一,那不是出於什麼「理性」或「人道」的判斷,而僅僅只是出於「功利」的考量而已。一個人的思考越是偏向功利主義,就越會認定一百條人命的價值高於一條人命的價值,但這種判斷在法律上是很粗暴、也很輕巧的,畢竟我們都不是上帝,無法看透生命的全局,更沒有權力去比較誰的生命就是比誰的生命更有價值或意義,尤其是在我們不清楚殺的是誰,救的又是誰的時候。

然而這樣的底線,在各種電影裡簡直受盡了考驗。因為總有一些反派會不斷告訴你,你這點脆弱的原則,也就是「不殺人」,保護不了任何人!

最經典的例子,就是「蝙蝠俠」。(而非常剛好,蝙蝠俠也是諾蘭導演的作品。)

蝙蝠俠的悲慘過去。

*

蝙蝠俠在所有超級英雄裡,是極少數不殺人的,因為他的雙親是暴力的受害者,但小丑和其他反派會殺人。而小丑之所以是影史最成功的反派之一,就在於他不僅會殺人,還深知蝙蝠俠內心堅守的底線,他知道面對「殺一可以救百」的難題,蝙蝠俠不會選擇殺一,也不願選擇殺一,他知道這是蝙蝠俠和自己唯一的差別,因此在《黑暗騎士》這部電影裡,當小丑在遊艇上裝置炸彈,要蝙蝠俠親手殺了他,只要殺了他,就能拯救船上數百條人命時,他知道蝙蝠俠會抵抗、會掙扎、會痛苦、會下不了手……因為他明確地知道,這是蝙蝠俠心中最大的軟肋。

而看過《黑暗騎士》的人都知道,蝙蝠俠沒有因此而殺了小丑。

在《疑犯追蹤》裡,芬奇和蝙蝠俠是同樣的人,他們不會選擇殺人,也不會對生命進行高低評估和價值判斷,然而這樣的底線,在劇中也是受盡各種殘酷的考驗,因為就像前面說的,總會有一些反派會來告訴你,你這點脆弱的原則,也就是「不殺人」,在這個殘酷的世界裡,就是保護不了任何人。

你想保護自己在乎的人和在意的一切?可以,那就放下底線、拿起屠刀,將雙手染上鮮血,變得跟我們一樣!如果你不願意,我就和小丑一樣,不斷挑戰你的底線,甚至一樣一樣拿走你在乎的東西!

小丑

*

然而,即使處境一再絕望,即使同伴在他眼前倒下,芬奇有沒有和蝙蝠俠一樣,始終堅持著自己的底線?嗯,其實有!芬奇始終沒有殺過任何人,甚至在我的印象裡,他沒有拿過一次槍!坦白講,我就是欣賞這種有原則的人。如果我是芬奇創造出來的智慧生命,我會覺得人類這個創造我的物種,之所以值得我的付出和忠誠,是因為他們不是為達目的不擇手段的怪物,他們不像小丑或其他反派,他們的內心有某個崇高的、必須堅守的信念,他們會尊重每個生命的價值、不輕易對生命的價值進行高低判斷。我想,這樣謙卑而謹慎的意志,才是他們能夠得到其他高等智慧生命尊敬的最大原因。

§下篇——《疑犯追蹤》&《超人》:撒瑪利亞執行人的掙扎

You may also like

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

這個網站採用 Akismet 服務減少垃圾留言。進一步瞭解 Akismet 如何處理網站訪客的留言資料