第六章 黑匣剖析參道德
西門事務調查所位於郊外一片廢棄的工廠廠房內，馬明空在地圖上看了后，突然醒悟何為「西門」，原來是指事務所在龍門區的最西邊，再往西一點，就是臨近的奇廬市。這事務所和濱江大學同在龍門區，相距倒是不太遠，馬明空在徵得賀思孟同意后，先乘車前往濱江大學接到了蘭靈，兩人到達調查所時，已是凌晨一點十分，賀思孟早等在門口，一見兩人下車便上前埋怨道：「怎麼這麼久才來。」
馬明空指著身後的蘭靈笑道：「市局科學顧問，蘭靈蘭教授。」
「蘭教授，幸會幸會，快請進。」賀思孟上前伸手和蘭靈握了握手，借著屋內*射出的昏暗燈光，賀思孟看到蘭靈的臉，忍不住「啊」的大叫了一聲，在這寂靜的深夜裡顯得格外的刺耳。
蘭靈快速抽回手，也未言語，馬明空暗想蘭教授確實年輕漂亮，可這大半夜的，也不至於叫成這樣，當下拍拍賀思孟的肩膀，笑道：」把持，把持啊。」
賀思孟聽了馬明空的揶揄，也不生氣，退了一步，側臉看了看蘭靈，這才搖了搖頭，道：「失禮失禮，不好意思，蘭教授，你和我認識的一個人真的好像，我剛認錯人了。」
屋內寬廣高大，屋頂還是廠房的構造，賀思孟領著二人往裡來到一個小隔間，地上平躺著一個機器人，賀思孟洋洋得意，說道：「這就是柯先生家的機器人了。」
蘭靈彎腰在那機器人面部和腹部顯示屏上都點擊了幾下，毫無反應，和馬明空一起將那機器人翻轉過來，只見背部印著一行鋼印編號，正是小黑的編號「JAZR4405203904258229」，編號下面卻是一個心形圖案，裡面又刻著一塊說不出形狀的事物，馬明空點點頭，起身說道：「你先說說你的手段吧。」
賀思孟倒退一步，道：「馬科長，咱們話可說在前頭，你可不能說我非法盜竊私人財產，我這麼做，也是為了配合你們調查，警民合作嘛，你要是不同意，我現在就給它送回去。」
馬明空皺了皺眉頭，道：「虧你也做過警察，婆婆媽媽的，我應承你就是。」
「我不做警察，還不是......」賀思孟撇了一眼燈光下的蘭靈，竟似出神般的怔了一怔，終於又用力搖搖頭，回了回神，長嘆了口氣，面向馬明空說道：「這機器人既然不在江帆大廈，十之八九便和它女主人楚女士在一起，我查到了她尚有一度假別墅，便扮成一個保潔工程師上門去給這機器人做清潔，探明它所在房間，又借聊天知道了她的作息。到了今晚上，待楚女士熟睡，我就潛入小黑的房間，它那時正在充電休眠，我就拔了電源，又按了斷路器強制關機，然後就把它抱了回來。」
「你按了斷路器？」蘭靈復蹲下身，伸手在小黑後背的側角一掀，果然打開了維護口外蓋，問道：「你是怎麼打開它的？」
「硬體加密是不是？」賀思孟笑道：「做我們這行的，最重要的就是認識人多，朋友多了，辦法就多了。」
蘭靈沒再說話，她仔細看了看那蓋子下面的裝設，一個斷路器，一個注射口，還有一個便是維護口，沉思了一會，拿出手機，對馬明空說道：「現在我觀察它的AI大腦，雖然也看不完整，可是，」她頓了頓，道：「你確定我們要這麼做嗎？」
馬明空看了一眼賀思孟，對方是為了柯先生委託一事，按照慣例，柯先生當日應該給了他一筆先期的活動經費，待他完成調查，再拿到全款，那定是一筆價值不菲的報酬。至於蘭靈，她向來有技術上一探究竟的癖好，而自己是為了什麼呢？直到現在，沒有任何哪怕是間接的證據能表明柯先生墜樓有什麼疑點，最多是柯氏家族一會想起訴楚蕙一會想立刻結案，不過那也能從經濟上解釋清楚，馬明空心中猶豫了那麼一兩秒，繼而便堅定的點了點頭，道：「繼續。」
蘭靈從口袋裡拿出一根細細的線纜，一頭接在手機上，一頭插入小黑的維護口孔中，她盯著手機屏幕，不一會兒，拿著手機的手竟微微顫抖，馬明空見她面色凝重，雙唇緊閉，心下里也不由緊張起來，小隔間里一時死一般的沉寂，只聽得自己和賀思孟兩人粗重的呼吸聲，約莫過了半個小時，蘭靈動了一下身子，起身道：「好了。」
她轉了轉脖子，活動了一下，又在手機屏幕上點擊了兩下，說道：「既已開頭，便做到底，索性把它數據都拷出來。」對著賀思孟說道：「我們來之前，其實你已經拷貝了一份，是不是？」
賀思孟打了個哈哈，笑道：「閑著也是閑著。」
又過了十來分鐘，蘭靈拔下線纜收好，合上維護口外蓋，對賀思孟說道：「待會記得重新加密封好，還有，斷路器衝擊較大，你想讓它不能活動，按前面的安全鎖即可。」
」馬科長，這次我夠意思吧。」賀思孟對馬明空又打了個哈哈，笑道：「別怪我反覆啰嗦，咱們不管是誰，有什麼發現，都不可藏著掖著。」
「這是自然，你辛苦了半日，一會還要自己把它送回去，我們怎麼也不會瞞你的。」
兩人向賀思孟道了別，上了車，馬明空忽然想起蘭靈剛才的表情，躊躇了一下，問道：「蘭教授，你，害怕這個機器人嗎？」
「害怕，」蘭靈沉默了一會，才說道：「人類社會的發展史，是一部信息交流趨於對等的歷史，哪怕是隔閡最大的統治者和被統治者之間也是如此，可機器人不是這樣，人類和機器人的信息交流永遠不會對稱，機器人可以知道人類的想法，人類卻不知道機器人的想法。」
「難道看AI大腦也看不出？」馬明空奇道。
「我說過了，基於量子演算法的AI大腦，是無法完整觀察到所有信息的，過程和結果永遠無法兼得。」蘭靈的口氣變得有些不滿。
馬明空也不著惱，又道：「這只是現在吧，會不會也隨著發展而改善呢？或者，法律要求機器人的面部必須配合AI大腦的運算做出相應的表情。」
「很難，人類賦予機器人的思維方式，可能永遠是一個黑洞，」蘭靈的食指在眉間輕柔數下，低聲道：「人類的所見所聞對大腦思維的形成至關重要，大腦還要選擇性的接收想聽想看的信息，可機器人不同，它們能看到的、能聽到的都遠超人類，它們能看到更廣的電磁波波長、更深的色彩，它們能聽到更寬的聲波頻率、更細的音準，AI大腦也不會屏蔽接收的信息。」
她放慢語速，緩緩說道：「只能看到黑白兩色的動物無法理解世界的真相，就像人類想象不出鳥類眼中的世界一樣，人類可能永遠也不能確切的知道機器人所認知的世界。」
馬明空的心一沉，想起那日在楚蕙家中，楚蕙看著小黑時的表情和眼神，可小黑的整個面部只是一塊閃著淡淡綠色的冷冰冰的顯示屏，連攝像眼都隱藏在顯示屏下，他甚至想，剛才在小隔間里，被關機的小黑到底停止了哪些部件的運行？在那顯示屏後面，攝像眼會不會仍隔著一層玻璃在看著他們？只待它蘇醒后就能憶起剛剛發生的事情，想到這，他忍不住在心裡打了個寒顫，他望著窗外，小車飛馳在道路上，這裡是郊外，路燈之外是一片黑茫茫，彷彿黑夜張開的一張巨嘴，將小車連同裡面的乘客，順著道路，吞噬而入。
此刻，西門事務調查所內，賀思孟將小黑全身仔細抹去指紋，用一根專用的硬體加密桿將維護口外殼合上複位，他看著空蕩蕩的房間，腦海中卻又慢慢的浮現出那張所有比例都剛剛好的美麗面龐，他嘆了口氣，心裡突也變得空蕩蕩的，可一想到柯銳木已經給了他20萬元的活動經費，還有500萬元的巨額謎底揭曉大獎等著他，勇氣陡然而生，一個人抱著小黑便向外走去，他沒有注意到，屋頂上方的攝像頭一直盯著他，在悄悄的轉動。
————————————————
一連幾天，蘭靈都沒有消息傳來，馬明空並不著急，事實上，他有點怕接到蘭靈的電話，告訴他：「馬科長，小黑確實有問題。」新型案件偵破科成立后，他一直在想，「新型」二字「新」在哪裡？這三個月來，雖然沒立過一起案件，他和艾新好等人也沒有閑著，參加各種學習班培訓班成了他們的日常工作，同時，艾新好作為資深網路及安全專家，義不容辭的在內部開展了技術摸底考試和掃盲學習，艾新好是個認真的人，所有的學習都要經過考試，更讓大家叫苦不迭。至於他自己，還要出差到其他城市參加經驗學習和交流討論，在這個過程中，他逐漸明白一個道理，雖然從沒人講過他們科負責的案件範圍，但在可見的將來，「新型案件」恐怕主要集中在和AI人工智慧相關的案件上。
在上個月省局組織的研討會上，有人講述了不久前發生的一個案例，AI礦工機器人在井下作業時，挖穿了地下水，造成三名人類礦工受傷被困在坑道內，當時井下尚有一台完好無損的AI礦工，在地面的遙控指揮下，這台AI礦工先後救出了兩名人類礦工，就在它返回井下準備實施最後一次救援時，次生災難發生，礦井坍塌，留在井下的最後一名礦工不幸罹難，由此引發了一系列複雜的責任認定和訴訟關係。
首先，地下水挖穿是誰的責任？機器人製造商、煤炭公司還是設計方？當時有沒有人類礦工在附近監督？其次，礦難發生后，為什麼不派更多的AI礦工下井，一次將人類礦工救出？再者，次生災難又是如何引發的？是隨著時間推移而必然發生的，還是的救援過程導致的？最後，也是最有爭議的，是誰決定了這三名人類礦工被救出的先後順序？地面指揮部矢口否認是他們的決定，按他們的說法，他們只要求那台AI礦工儘快救出所有人，這三名人類礦工並不是困在一處，AI礦工沒有按他們離出口的遠近距離實施救援，第一個被救出的反而是距離最遠的那人，由於這台AI礦工最後也沒有脫困被深埋於地底，已經沒有直接數據來研究當時這台AI礦工作出如此決策的邏輯了。
事後，一個由數名專家組成的獨立調查團給出了一個推測，這台AI礦工起初也許作出了最優的決策，理論上，它一次可以救出兩名礦工，也許，它是想先找到最遠那人，在返程時順路再攜帶一人出井，但不知何故，AI礦工第一次只帶出了最遠那人，也許是AI礦工判斷最遠那人當時受傷嚴重急需出井救治，但這個推測很難解釋AI礦工在第二次下井時，仍然先找到離出口第二遠的人，並且再次只攜帶他一人出井。
此案在研討會上引起了熱烈的討論，更有人提出了一個頗為震驚的假設，這台AI礦工的決策沒有問題，但兩次，都是被救的人類礦工要求自己儘快出井，不許它再花時間去找同伴。此話一出，會場上頓時鴉雀無聲，連馬明空都能感到，也許才是最有可能的真相。
不管如何，這些研討讓他明白，AI案件是一樣會死人的。多年前，他剛加入警隊，那時他常常期盼著案件的降臨，每偵破一個刑事案件，他的榮譽簿上就增加了濃重的一筆，嘉獎立功是彼時的他的人生目標，直到有一天，沒人和他說，他自個突然想到，每一個刑事案件背後，都至少有一個受害人的身影，他怎麼能盼望著多一點案件分給他呢？因此，當新型案件偵破科三個月沒開張，他內心深處，反而一片安詳。
當然，事情已經發展到這個地步，馬明空不可能完全保持住內心的平靜，所以當周三快下班、蘭靈打電話約他下來見面時，他是一路急走，奔至分局斜對面的小茶店，見到蘭靈面帶倦容、神色憔悴的坐在臨街窗邊的一張小桌前，不由吃了一驚，忙問她何事？蘭靈沒有回答，只勉強一笑，道：「這裡怎麼樣？我記得你喜歡在茶社裡談秘密。」
馬明空雖喜飲茶，但此間卻從未光顧過，他略略環視四周，是一間不起眼的小茶店，點點頭道：「還行吧，」頓了一頓，忍不住問道：「你還好嗎？」
蘭靈沒有答話，側眼向窗外看了好一會兒，才迴轉目光，說道：「我一直很疑惑，人類的記憶為何會出現偏差？這似乎是人類這一物種特有的現象，有種解釋說是在追溯記憶時，信息可能會被偽造、誤導，重新寫入時，記錄的就是與事實不符的記憶了，可為什麼要偽造？是人類的自主意識有意為之嗎？如果在原始狩獵採集階段，原始人出現記憶偏差，是會導致滅頂之災的，這種意識能力，為什麼會遺傳下來？」
馬明空聽了，一句話也答不上來，只好默默的看著對方，茶店甚小，老闆就是店員，他要了一壺玫瑰花茶，給蘭靈和自己斟上，呷了一口，等著蘭靈繼續。
晶瑩剔透的玻璃杯中散發著香甜的玫瑰花香，蘭靈卻似乎沒有品嘗的意願，依舊陷入自己的沉思之中，過了好半晌，才又道：「我叫你下來，是想告訴你，我嘗試解讀了小黑AI大腦的部分可見部分，對比了它在本體、邊緣、雲端的記憶數據，數據本身沒有發現異常，沒有不一致的地方，但我發現了一個問題，它的記憶，似乎被擾動過。」
「數據一致，但記憶被擾動過？」馬明空一頭霧水：「怎麼個擾動法？」
「我不知道。」蘭靈的臉上顯出愈發痛苦的表情，馬明空想安慰她卻又不知如何開口，蘭靈看了他一眼，搖頭道：「我沒事，」隔了一會，又道：「我在楚蕙家裡時，曾問過小黑，『柯先生以往對楚女士家暴的時候，楚女士是常常反抗，偶爾反抗，還是不反抗？』它答覆說，『偶爾反抗』，我當時沒有覺察出什麼，可是，當我看了它在本體存儲的記憶，也就是自去年11月22日重啟換血后積累的數據，發現這期間柯先生有3次比較明顯的家暴，但楚女士從來沒有反抗過。」
「也許在11月22日前，楚女士反抗過，所以小黑才說『偶爾反抗』。」
「不不，你沒搞明白，機器人是怎麼記憶的，小黑現在本體內的數據，包括了從去年11月22日至今的數據，以及它最後一次重啟換血時，從邊緣以及雲端下載得到的脫敏數據，這些數據不會包含和家政服務無關的信息，即便真有和家暴相關信息，也只能是遇到此類情況觸發報警這樣的知識，小黑是斷不會再有去年11月22之前，柯先生家暴的具體記憶的，除非它能聯網到最原始的歸檔數據，可那在物理上是不可能的，歸檔數據是不會聯網的。」
「你的意思，小黑撒謊？」馬明空若有所思，他想起蘭靈剛才的言語，接著道：「或者說，它的記憶，出現了偏差？」
似乎是面前的玫瑰花茶散發的熱氣起了香薰的功效，蘭靈的臉色漸漸恢復了正常，一抹紅暈染上了臉腮，她說道：「姑且不論一個家政機器人不可能具有說謊的能力，就算它有，它是如何構造這個虛假記憶的？它不可能憑空說謊，必須要改造記憶，按人類的說法，就是先讓自己信以為真，才能回答出想要的答案，可這虛構的記憶在哪裡？我看過它在邊緣的數據，也沒有這樣的記憶。」
「邊緣的數據？」馬明空奇道。
「是的，我這幾天又設法核實了小黑在邊緣保存的數據。」
她終於端起茶杯喝了一口，繼續說道：「而且，如果僅僅是這些，還不足以引起我的困惑，比如它的數據或大腦因為長期沒有更新，垃圾太多，從而導致位元組信息突變，甚或它在11月22之前的數據因為某種原因沒被徹底清除，這在理論上都是有可能的，這也是為什麼法律要求商用機器人必須定期重啟換血的原因。」
她放下茶杯，雙眉重又凝在一起，道：「我回憶了小黑當天的表現，發現小黑在回答我這個問題時，並不是脫口而出，中間停頓了足足有2.5秒那麼長！」
「這有問題嗎？」
「問題就在這裡，哪怕小黑的記憶出現了偏差，機器人的所有問答都來自本體、邊緣或雲端的知識，它要麼脫口而出，如果出現停頓，那麼它的回答一定是『我不知道』！」
「這就是你認為小黑的記憶被擾動的原因？」
「我的導師在十幾年前就預測過一種『AI記憶擾動』現象，他擔心，AI機器人發展到一定階段，基於量子技術的AI大腦趨於開放，有可能會出現量子擾動，從而導致記憶、邏輯等能力出現擾動，也許小黑當時就處在一種不確定的狀態，才會導致停頓。」
「會不會是被黑客入侵嗎？」
「不是。」蘭靈說著，又搖了搖頭，道：「也許可能吧。」她心知一兩句解釋不清，話鋒一轉，說道：「我現在有些後悔，那天晚上，沒有去拆解查看小黑的道德黑匣子。」
「但是道德黑匣子一旦拆開導出數據，原來的數據就失效了吧。」馬明空參加了幾次培訓班，對機器人的道德黑匣子印象比較深刻，在AI礦工救援案中，因為缺乏AI礦工的道德黑匣子，無法獲取當時AI礦工做出決策的依據和邏輯過程，從而難以界分責任。
「是這樣的，可我總歸想看到小黑在那一刻的決策過程。」
她雙眉舒展，眼中露出堅定之色，說道：「在那2.5秒內，位於道德黑匣子里的道德倫理內核究竟發生了什麼？內核雖無法直接觀看，但黑匣子記錄的數據總是透明公正的，可以側面推導，它當時為什麼要撒謊，依據是什麼？它是否真的經歷了記憶擾動？」
馬明空似乎忽然明白了蘭靈來找他的動機，想了想，說道：「我去問問賀思孟，就是前幾天我們見的那個私家偵探，看看他有沒有辦法，再讓你看看小黑的道德黑匣子。」
蘭靈先是一愣，接著便露出淡淡的笑容，說道：「我想你誤會了，我確實想解開這個技術上的謎團，但也不希望再通過那種非法的方式。」
「那你是想利用我這裡的官方合法渠道了。」馬明空暗想，當下便把麥局長的話向蘭靈轉述了一遍，又道：「柯銳木墜樓已經過去兩周了，眼下只能等待，也許不久便會有轉機。」