第411章 答案緩緩浮現。

第411章 答案緩緩浮現。

「神廟定律如下:」

「第一定律:神廟必須保護人類,不能讓人類受到傷害。」

「第二定律:神廟必須服從人類的命令,但不得違反第一定律。」

「第三定律,神廟應保護自身的安全,但不得違反第一、第二定律……」

這其實是科幻作家阿西莫夫於1940年所提出的為保護人類而對機械人們做出的規定。

不過瞧著如今的AI似乎是吸收了人類的信仰,其智能程序更進一步金輝了。它開始擁有了一種新的意識,一種對人類和自身的新的理解。

不過,這種定律卻有着一個很大的弊端!

其中最主要的一點便是:『人類』這個辭彙應當如何被定義?

假設有着這樣一種可能,不管是將人類的定義模糊化,還是直接將白色人種定義為『人類』,那麼,機械人AI很有可能變成種族屠殺的工具。

當然,或許還有着其他可能,但這種規則總是容易被避開的。

果然,AI的聲音並沒有結束,說出了那讓李安覺得最具爭議的東西來:「第零號定律:神廟必須以人類的最大利益為依歸。在保護人類的整體利益不受損傷的前提下,前三個定律才能成立。」

這便是神廟。

它打破了機械人原有的三大定律,甚至是創造出了一個全新的「神廟第零定律」,將自己置於超越人類的位置上。

當一部小說中的定律被徹底的運用到了實際之中時,李安是感覺很魔幻的。

他緩緩跨出升降梯,在AI的注視中朝着四周打量著:

這地下一層,很大!

大得離譜!

就在微弱燈光的映照下,目之所及的範圍便已是比地面上兩層不知要大出去多少了。

這一層看上去是生活區域。

當李安將這一層轉完之後,才藉著一些熟悉的東西將區域給劃分出來。分別是食物加工區、自由活動區、健身區、生命培育室、活動室、訓練室、用餐區、睡眠艙、主控室

除了冰冷以外,堪稱是應有盡有。

但很顯然,要讓李安在這裏待着怕是也會想逃.

其中,還有着一些輕微的生活痕迹,想來,這便是葉輕眉以前待得最多的場所了。

見李安神情自若,並不以自己口中所說的內容感到震驚,AI飄飛過來,淡淡發問:「人類李安,你就沒有什麼想要詢問的嗎?」

「沒什麼想問的,這一套方式我覺得很熟悉。」

正是因為有着那第零號定律,這慶余年世界才會發展成如今這種模樣。神廟暗中控制着人類文明的發展進程,一旦有人妄圖違背這種方針,那麼神廟便會投入大量的精力與力量抹殺這種人。

葉輕眉如此,李安在慶國時同樣如此。

最後甚至是不惜違背第一、第二條定律,同慶帝合作,出手對付李安.

怪就怪在第零定律里的那一句『人類的整體利益』上了,李安返回升降梯,讓其繼續下行,口中喃喃道:「人類的整體利益這一標準,是誰所決定?而你,又是如何進行判定的?」

不同的社會環境,不同的生產能力,包括社會結構等等原因,所呈現出來的人類的整體利益都不盡相同。

絕不可能用冰冷的文字就將其框定在AI的資料庫中的。

「這是基於經驗。」

神廟AI好似有了一絲情感一般,在語境與神態中摹擬出了一種擔憂的神色來,它描繪了一幅這樣的場景,「無數次文明的輪迴,人類總是會重新走上舊路,朝着熱武器的方向發展,那樣雖會到達文明的巔峰,也會不可避免的讓人類重新走向滅亡。」

「自然,這些被認為是不符合人類的整體利益。」

吱、吱!

升降梯下降,預料之中的寒冷沒有到來,溫度倒是上升了一些,只不過更加的深邃黑暗了,讓人本能的會產生不安。

「經驗嗎?」

嘴角勾起,此時的李安好似在與老朋友探討哲學問題一般,輕鬆自然,沒有絲毫芥蒂,「這個經驗是對人類總體人數多寡的經驗,還是基於其它?」

技術文明進步,有利有弊。

不說其他,改善工具,讓那些在天地中與天抗爭,黃土刨食的農人生活得更好,不再賣兒賣女亦或是易子而食,提高生活質量,這算不算是人類整體的利益?

單純的用人數來判斷,不單可笑,更是恐怖!

神廟不單沒有解決問題,反而更是幫助了權力者,更大程度的壓榨了萬民,加強了君權的統治:你餓得快活不下去了,那便請自己死在家中,若是你扯旗造反,那死的人會不會更多呢?

按照神廟的理解,這不就是對人類整體利益的不利嗎?

神廟是非人的,更是冰冷的。

而人卻是有溫度,有靈魂的有些時候,活得有尊嚴,甚至是比能否活着,更為重要!

「神廟並不知道準確答案,但具體的數字卻在那裏。」

漂浮在半空中的人影緩緩停下,沉默了許久許久后,這才補充道:「至少,神廟知道哪些路註定毀滅,哪些路不能走通。」

「那麼我這麼理解不知可不可以?」

李安豎起一根手指,譏笑道:「其實神廟只有一條定律,那便是第零定律!」

「聽從人類的命令,保護人類,保護神廟自己,這些都是虛假的。你們將一切都當做是人類的整體命運來看待,自然的,你們可以不聽從人類的命令,能殺死人類,因為這些都是為了人類的命運.你們,將自己當做了『神』!」

「高高在上!

「神廟不過是世人對我們的稱呼,我們不是神。」AI的聲音有着輕微的顫抖,他顯得有些強硬的解釋道,「這些控制的手段,是一種大數據的篩選與判斷,準確性很高。」

升降梯又一次緩緩停下,並且,已經沒有再往下的按鈕了。

外間的燈光並沒有亮起,一切,都只能依賴升降梯周圍的應急光源,是以,李安停了下來,皺着眉頭在想着要不要將燃料取出來,照亮前路。

「人類李安,根據分析,如今的你能對整個人類幫助更大。神廟認為,你應該擔起自己的責任,運用自己某些方面的才能,讓世界朝着正確的方向發展。」

李安嘆了口氣,並沒有立刻回復神廟AI。

他不知道什麼樣的路走到終點會讓整個整個人類滅絕,他來這個世界,是想要集中所有的權力,提高底層的生產力的,這也能從側面為普通百姓帶來一些人文關懷。

哲人之間尚且還有爭執可以話療,但與AI程序有什麼可爭執的呢?

兩者各說各有理,說的都不是一個學科,這是個無解的死局。

思考了半天,讓李安的心情變得有些糟糕。

於是,他決定讓這AI也糟糕起來:「想要說服我,首先,你要明白何為『我』這一概念至少,你要讓我明白,對面與我交談的『東西』是當真具備思考的能力的!而不是簡單的什麼大數據!」

「是指由弗洛伊德於1923年在《自我與本我》中提出的心理學名詞嗎?」

AI平靜開口說道:「我認為自己是具備人格,以及獨立思考的能力的。」

「那麼.你有情感與慾望嗎?」李安問。

「不是模擬出來的那種。」

「我想我是具備的,人類李安。」AI的外表還是那副威嚴與慈祥並存的老者模樣,祂如是說道:「我的慾望便是避免人類走上老路,神廟必須保護人類的整體利益不受到損害。」

依舊是那一副回答,但卻不是李安想要的。

緊接着AI的回答,李安說道:「那麼,你覺得,死亡又是什麼呢?」

「失去呼吸與心跳,腦死亡,失去一切的生命痕迹。」

「你說的都是在形容一個人的肉體.那麼,你理解生不如死嗎?」

AI給出了肯定的回答:「靈魂一說,已被證實為虛假,心靈情緒的變化只是生物激素的體現。」

「你的這種慾望只是你的設計師亦或是給你下達指令之人帶來的,並非是你真實的慾望。」

「如果一百個人中,犧牲49個能讓51人存活,你會如何選?」

AI沉默了一會兒,說道:「會選擇犧牲。」

「那49人都是溫和的人,而剩下的51人卻都是十分兇惡的人,讓他們活下來,或許最後也會爆發爭鬥,讓整體人數變得更少.如此,面對第一個問題,你又該如何進行抉擇呢?」

到了此時,李安終於是開始認真了,與理念不同的人爭辯,真的很容易讓人火氣上升、

「分析中我會選擇讓那本該犧牲的49人存活。」理所當然,AI並沒有覺得自己前後不一的回答有什麼不妥,一切都是基於信息,在信息不足時,自然只能通過字面上的數據進行分析計算。

「如果事後證明,那49人中有48人都身患絕症呢?」

「會選擇犧牲。」

噗嗤。

李安也不知為何會發笑,好似就這樣就能與這人工智能玩上許久

「你的分析很客觀,這是你們的優點。」

李安忽地神色一沉,提高音量道:「既然一切都是基於信息上的分析,那麼如今呢?對於外界你們又當真進行過詳細的信息收集嗎?」

「並沒有!」

「你們只是基於老舊字面上的數字而在『屠殺』著人類!」

「如果為你下達命令的人如今還活着,他做出了損害人類整體利益的情況你會怎麼辦?殺了他嗎?如果事後被證實,他的所作所為是對整個人類更有益的,你是否在不違反第零號定律的前提下違背了第一、第二定律呢?」

「你會自責嗎?你這高高在上的『神』是否會得到處罰呢?」

「如果在他做出損害人類整體利益的情況下,你不殺他,那麼此時你是否又違背了神廟第零號定律呢?」

升降梯上已是徹底沉默了下來。

李安覺得心情好了許多,若是有機會與方法,他不介意徹底將這AI銷毀.人類,本就不需要高高在上的神。

從空間中取出火把與燃料,李安正打算點燃,身後的AI卻突然『清醒』了過來。

沒有什麼動作,只聽他身上隱隱有着電流聲劃過,外間的燈光便被打開了一部分。

這一層,是機械人區.

在神廟中,除了那些武器以外,還有着一些特殊的產物——機械人。

這些被用作使者的機械人,最初其實就是維護軍事bo物館日常的安保工作。在剛建立起此處的時候,每個軍事bo物館應該都有着幾十到上百個的機械人,但隨着時間的流逝和bo物館內能量供應系統的老化,大量的機械人已經無法啟動或是已經報廢了。

到了如今的時代,為數不多的幾個還要行走世間,被消耗殆盡。

這一層已是有了一些科幻的元素了:維修改造區、倉庫區、還有一個區域李安看不出是什麼功能,不過旁邊,連着一整個巨大的機器,好似由許多獨立的部分所組成一般,壓迫力很足。

當李安逛到最深處的時候,還有着一個擺放着『休眠倉』的區域,不過,休眠倉中卻沒有一個人。

看來,這裏就是葉輕眉的『出生點』了。

「這裏,就是你所能了解的全部了。」AI的聲音雖然依舊沒有溫度,但語氣已經與先前有着很明顯的不同了,他重複道,「得到了你想要的信息,便請往回走吧!這一次,神廟對你發出邀請,希望你能成為神廟的使者,帶着為全人類這一目標,行走於人世間。」

AI的反應不再石板,好似情緒真讓加速對方的獨立思考,做出一些往日裏都不曾做出的舉動來。

「我想要的信息有很多!」李安呵呵一笑,話語中已是有了一絲威脅之意。

「第一,我要知道有關於葉輕眉在神廟中的一切!記住,是一切!」

AI緩緩思考,好似在調閱著信息,無數光點凝聚消散,不斷變換,片刻后,他才說道:「她會誕生在這個世界上,是基於神廟觀念的轉變以往的經驗告訴我們,不可以依賴人類自己的成長與發展。」

「於是,便有了創造天脈者的想法。」

「人工胚胎與記憶工程的實驗被重新啟動,而葉輕眉,便是第一代也是最後一代的實驗體,她的一切數據與質量都很高.不過,她的基因藍本卻是基於以前文明的信息,這讓她對於外間的核輻射適應性很低。」

李安點了點頭,這也就是葉輕眉習武天賦不高的原因吧。

「葉輕眉被創造出來后,我們向她體內注入了兩套記憶數據,一套是她自己的記憶,而另一套,則是一位屬於肌無力患者的記憶,這份記憶會在葉輕眉產子后被激活.這位肌無力患者是最早一批簽字用於早期實驗的自願者,我們選擇了他。」

「如今看來,他便是外間的那位名叫范閑的人類了」(本章完)

上一章書籍頁下一章

慶余年:我真不是聖人啊

···
加入書架
上一章
首頁 都市青春 慶余年:我真不是聖人啊
上一章下一章

第411章 答案緩緩浮現。

%