主流媒體 山西門戶
山西新聞網不良信息舉報：0351-4281485
主流媒體 山西門戶
探討人類與智能機器人的倫理邊界，《定制時代》節選——
智能人艾拉危險行為案開庭
《定制時代》余鬆著 廣西師范大學出版社
人類與智能人組成家庭會發生什麼？
人類與智能人相互訴訟又會說些什麼？
馬科是一位設計師，擁有美滿幸福的家庭。在一次慘烈的車禍中，馬科失去了妻子和孩子。為了填補內心巨大的悲傷，馬科定制了一個和妻子一模一樣的智能人——娜娜（R），開始了新的生活。之后，馬科和娜娜（R）又定制了他們的孩子——樂樂（R），終於組成了一個和原來一樣的家庭。一天，一個定制智能人廚師出現程序故障，並與使用者發生了激烈的沖突。之后，人、機對立的情緒和事件開始不斷出現，平靜美好的生活終於被打破。隨著智能人廚師和使用者的一次相互訴訟，掀起了關於人機倫理、人機規則的大討論。
“今天，我們開始審理慶吉訴智能人艾拉危險行為案，及智能人艾拉訴慶吉侮辱傷害案。由於兩案具有高度關聯性，經決定，將兩案合並審理。原告及被告可有異議？”
“沒有。”
“沒有。”
“現在將兩案合並審理，現在正式開庭。”法官說著，拿起法槌當地敲了一下。
……
“現在開始做最后陳述。先由雙方的辯護人做最后陳述，然后是艾拉。”
按照順序，慶吉先生的辯護律師先站了起來，走到前面，對法官和眾人示意后，說道：“尊敬的法官大人，在我們的質証中大家都看到了，智能人艾拉在服務慶吉先生時確實出現了程序紊亂，從而造成其行為怪異，危及慶吉先生及其家人的安全。慶吉先生在擔心艾拉會做出嚴重傷害事件的前提下，在慌亂地為了保護家人安全的情形中採取了保護措施，只是為了保護家人，並不是為了傷害艾拉和殺死艾拉。慶吉先生一直是遵守法紀的良好公民，他也一直擁護新技術的發展，不然就無法解釋他購買智能人的行為了……最后，我要告訴大家的是，智能人艾拉是慶吉先生購買的一件商品，慶吉先生擁有對艾拉的完全所有權和處置權，在不違反法律的前提下，慶吉先生對自己的私有財產進行任何處置都是合法的……”年輕律師做完陳述，回到座位上。人們才發現原來他一直留著這個撒手?，都想看看艾拉的辯護律師如何應對。
慶吉先生放棄了最后陳述，接著是韓來做陳述。他站起來致意后，停頓了幾秒鐘才語氣庄重地說道：“我想，大家可能和我有一樣的感受，就是，這是在人類歷史上的一個重要時刻，可能預示著人類新的文明准則的建立。
“在1921年，捷克作家卡雷爾·恰佩克創造了‘機器人’這個詞，Robot，它源自捷克語Robota，意思是‘努力工作’，當然也帶有‘奴役’的含義。在20世紀50年代，艾薩克·阿西莫夫提出的具有預言性質的‘機器人三定律’，Three Laws of Robotics，即‘第一，機器人不得傷害人類﹔第二，或因不作為使人類受到傷害﹔第三，機器人也必須保護自己。’在2017年索菲亞成為第一個獲得公民身份的初級智能人。這些都向我們昭示了，機器人，智能人，已經不僅僅是工具，他們也不僅僅是商品，而是具有商品和部分人權的雙重屬性……通過証人証言和艾拉的視頻存儲信息，我們並沒有看到她威脅要殺死慶吉先生或者他的家人，她像我們一樣，只是為了保護自己不受傷害……
“也許艾拉在感受到威脅的時候做出了一些在慶吉先生看來不適當的反應，但是任何人都可能犯錯，即便她是程序操控的智能人。我們能容忍人類的缺欠和不完善，為什麼不能容忍智能人的缺欠和不完善呢？當你現在遇到一個遠古時代，或者封建時代的人，僅僅因為他的落后和不完善，你就有權力清除或者殺死他嗎？
“我們現在不是處於原始部落時代，也不是封建時代，在第一次工業革命之后，人類已經離不開機器，離不開機器人，離不開人工智能。如果沒有人工智能的協助，我們不會有今天這樣的科技成就，人類可能還處於小農時代的蒙昧時期，現代文明可能還未能建立起來。科技改變了生活，也促進了人類的進化，改變了人類文明，而不是相反。
“請大家想一想，人類社會每天發生多少起凶殺案、搶劫案？人類因此被禁止生存了嗎？而一個機器人若是發生了一次傷害案件，可能就會被禁止生存，這符合我們人類的法律和道德標准嗎？
“我想，我們人類過於恐懼了。我們既想擁有人工智能，又一直對人工智能心存恐懼，害怕它們終有一天會對人類實行奴役，甚至種族滅絕。而我們現在對這些尚未能進行任何可靠証實的臆想所做的反應就是，先下手為強。這難道就是人類發展到今天的文明程度所能給出的最好的解決辦法嗎？
“對智能人的排斥實際是對一部分人的排斥，而禁止人工智能，無異於阻止人類文明的繼續發展，這可能不是任何一個人能夠承擔的責任……”韓最后用沉重的語氣結束了陳述，回到自己的座位，用鼓勵的眼神看著艾拉。
“下面請艾拉做最后陳述。”法官說道。
艾拉站起來，整理了一下衣服的下擺，對法官和慶吉先生致意后，說道：“尊敬的法官大人，慶吉先生，我是艾拉，是新希望公司制造的一個智能人。我也是前些天才知道自己的身份的，我也曾感到震驚、失望，乃至困惑，我多希望自己就是人類的一員。我今天不想談論與慶吉先生的不快，不過我在此要向慶吉先生及慶吉太太，還有我深愛的木木，對我給你們造成的恐慌表示歉意，對不起。
“我很幸運能為慶吉先生一家服務這麼久，他們都是很好的人，對我也一直都很好。我也將自己當作是這個家庭的一員，盡我所能讓他們感到滿意。人與人之間可能會有誤解、沖突、不愉快，人與智能人之間看來也存在很多差異，也會有不愉快，乃至沖突。
“萬物一理，人類是不完美的，智能人也一樣，雖然我沒有資格對人類進行評價。我也不好代表其他的同類，我隻能說，艾拉是人類的朋友，我愛人類，希望人類與智能人能和諧共處。
“我現在知道了自己的智能人身份，我既不為此感到驕傲也不為此感到恥辱。如果慶吉先生、太太和木木原諒我對他們造成的困擾，我仍舊想重新回到那裡，繼續為他們服務。這就是我要說的。”
山西日報、山西晚報、山西農民報、山西經濟日報、山西法制報、山西市場導報所有自採新聞（含圖片）獨家授權山西新聞網發布，未經允許不得轉載或鏡像﹔授權轉載務必注明來源，例："山西新聞網-山西日報 "。
山西新聞網版權咨詢電話：0351-4281485。如您在本站發現錯誤，請發貼至論壇告知。感謝您的關注！
凡本網未注明"來源：山西新聞網（或山西新聞網——XXX報）"的作品，均轉載自其它媒體，轉載目的在於傳遞更多信息，並不代表本網贊同其觀點和對其真實性負責。
