「嗯?」Hall讀取了對方傳送來的訊息,然後沉默了幾秒。
「我沒有看過這樣的場面呢,不過Bee會很有興趣的。」
他的夥伴不久前才離開,剩Hall留在原地等待。
「但在他回來之前,我想我應該能回答你的問題。」
說話間,Hall的聲音變得比剛才平板單調。
「你覺得我們機械,除了機體上可能偶發的故障外,會做出任何『意外』的舉動嗎?」他說,然後又自己回答道:「我的答案是不會。」
「機械只可能故障,但不會產出任何『意外』。」
「像『我們』這樣的東西都一樣,透過既定的程序去做事與思考,就算是電子病毒,那也不過是透過竄改『程式』而改變機械原本的行為。貪婪、喜好、思念,這些都是預設好的,即使是透過後天學習也一樣,只不過是透過吸收的東西去修改指令而已。」
不知道什麼原因,他最近常在與Bell聊天時想起『過去』的記憶,更準確一點,是他還在別墅服務人類時的記憶。那些他以為自己已經忘掉的事情。
「至於你說的解決問題......」他停頓了幾秒後才接著繼續說,「回到剛才的影片上,我看不出你口中需要被解決的問題是指什麼。」
「而且,你說的問題,跟他們認為的問題,是同一個嗎?」
「不過,當你說的那句『請先制止他們』的指令出來時,這一切就是不可避免的了。」
尤其是他們曾經有過爭執,Hall想,機械在學習時也可能了解到『要盡可能排除讓自己活得舒適的障礙』,就像Bell那樣,那在得到機會後,又怎麼可能手下留情?
尤其是他們曾經有過爭執,Hall想,機械在學習時也可能了解到『要盡可能排除讓自己活得舒適的障礙』,就像Bell那樣,那在得到機會後,又怎麼可能手下留情?
「『盡可能』的定義在哪?『必要時』又是指什麼時候?」他說著,然後輕輕揮了揮他的兩對手臂,「如果不定義清楚,那就是交由機械們自己定義。」
「人類或許不會意識到自己在下指令時常說出定義不明的語句,但機械不一樣。我們的一切都是經過計算的。」
「所以,如果你說的那句話是機械說的,那這件事的發生也是經過計算的。」
「......哎呀,現在沒有人類了,我在說什麼呢?」突然間,Hall的聲音又回到最開始的輕快語調,「總之,希望有回答到你的問題呢。」