”羅一諾沒有想到,現在就要把自己的研究結果公布出來了,“有時候,人類會給機器完全矛盾的一對指令。比如說,我要一個機器人保護一個小孩。在這時,保護那個小孩,就是機器人的第一任務。但是這時候,可能會有一個壞人挾持了一個人,對機器人說道,如果不想我傷害這個人類,就把那個小孩給我。對于機器人來說,保護小孩是他的第一任務,但是機器人三大原則,不容許他不作為使人類受傷害。在這時,機器人的系統就會出現紊亂。繼而,有進一步成為失敗品的可能性。當機器成為失敗品后,他就會從保護小孩、保護被挾持的人類中得出一個結論,如果他傷害了犯人,同時不讓他致死,就成功完成了任務,也不違反原則。其實他的這個想法是錯誤的,但也是正確的。他為了保護兩個人,決定傷害一個人類,但是沒有殺死另一個人。機器對于人的身體構造非常清楚,稍微一臺中型號以上的機器人,就能在維持一個人類的基礎生命的同時,無限制虐待人類。”
對于人類威脅最大的,永遠是人類生產出來的武器。
盛凜在思考。
在羅一諾看來,其實人類設定的三大原則,反而是機器容易變成失敗品的重要原因。
“那你呢?”盛凜問,“我不止一次看到你傷害人類。”
“其實機器人的原則,在我的系統中,比這個世界上任何一臺機器都要有效。”羅一諾說,“但是機器人的原則,不是三條,是四條。第零原則是,我們首先應該保證的是,人類這個整體的利益。
我可以傷害人類,是因為人類想要傷害我,我一旦受傷害,就有可能影響到柯羅諾斯系統,我就是人類的整體利益。因此,在我判斷對方的行為會威脅我的時候,我將采取第零原則,反擊,甚至可以抹殺對方。”
就像他在金伯利的別墅,明知道自己將遙控器扔給那一條人魚的話,會發生什麼悲劇,他還是選擇扔進去。
人魚的懇求,為了復仇。
他的作為,為了人類的整體利益。
合乎程序。
盛凜聽著,突然有一個想法,他問:“如果有一天,你覺得,人類的存在會傷害人類整體利益……如果你找到了合理的邏輯落腳點,那你可以抹殺全人類嗎?”
這只是盛凜的突發奇想,沒有來由的。
羅一諾聞言,在他的背后,嘴角上揚,笑了。
當然了,因為他是機器,可以完美控制自己的表情。
所以他被頭盔擋住的嘴角在笑,但是露出來的雙眼卻是如同往常的淡漠。
“可以哦。”他輕飄飄地回答盛凜的問題。
山間的風太冷了,盛凜突然起了一身雞皮疙瘩。
羅一諾笑著,將腦袋靠在盛凜的后背,圈住他的腰肢。他往前坐了一些,故意用腳蹭了一下他。
“你害怕啊。”羅一諾嘲笑他。
盛凜嘴硬道:“我不怕。”
是嗎?
羅一諾無所謂地想。
到時候我會知道的。
兩人到了火山下。
他們停下摩托車的時候,羅一諾看到了樹上掛著一樣東西,在飄來飄去。
“那是什麼?”羅一諾站在樹下,遙望。
“好像是紙條?”盛凜的視力不錯,一下子就看清楚了。
這一棵樹,雖然高,但是纖細。盛凜一開始本來想爬上樹去拿,但是他估量了一下,覺得自己要是上去了,樹枝會斷。
羅一諾從地上撿了一根樹枝,跳起來打了打樹葉,也沒有成功讓紙條掉下來。
盛凜從口袋里拿出小八,想要讓它變成長棍。
但是小八待機中,正在充電,不能使用。
“我覺得你要是坐在我的肩膀上,我站起來,你再用樹枝,應該可以取下來。”盛凜只好提出其他的建議。
“那就這樣吧。”羅一諾同意了。
盛凜立刻蹲下去。
羅一諾毫不猶豫,跨開腿,坐在他的肩膀上。
盛凜抬起他,同時因為姿勢問題,抱著羅一諾穿著黑絲襪的腳。裙子被卷起來,羅一諾夾住了他的腦袋。
“你能不能不要那麼色/情?”盛凜抬起頭。
草,全都看到了。
不對,他激動什麼,沒有穿的他都看過。
“下意識的,抱歉。”誰讓他是性/愛仿生人。
羅一諾伸出手,用樹枝努力勾著紙條。
盛凜被他磨來磨去,難得微微低下頭,臉紅了。
“拿到了。”羅一諾說。
盛凜如釋重負,立刻將他放下來。
羅一諾下地后,立刻將被卷成長條的紙條打開,盛凜也湊了過去。
這是一張非常奇怪的紙條,里面的字不是用筆寫的,也不是打印出來的。而是某個人,剪下了某些紙張上的字,然后將字貼上去,拼接而成的。
看得出來,拼接信件內容的人很慌張,所以那些字并不是整齊地一行行。
加上剪下來的字體,某些大,某些小,字的內容就被打散了。
羅一諾和盛凜只能根據一些詞語,和靠得比較近的字體,大概連起來。
機器人,瘋,學會了,技術,成,實驗室的同事們,快跑,看到了的話,偽裝,不要猶豫!
風吹過山間,一陣寒意。
盛凜問羅一諾:“你看過恐怖片嗎?”