第340章 334-路 定律 協議

    這等履歷過於耀眼，驕傲如麗美和海倫都止不住佩服，才會讓倆女才會糾結，究竟是該堅持原來計劃主攻生物，還是該把握住眼前難得的機會？

    最後，還是剛從阿提蘭被送回來的危境拍板，讓麗美和海倫多和這位大牛接觸，以提升自身學識為優先。麗美和海倫這才決定，接受學校的邀請，用一年至一年半的時間，跟著大牛裡德·理查茲進修物理。

    與傳統的人工智能不一樣，準確來說，是與西方哲學思想下，有可能被創造出的人工智能不一樣，危境不受所謂的“機器人三大定律”所束縛。

    木蘭從x戰警那邊偷來危境後做的第一件事，就是更換掉源代碼中類似“機器人三大定律”的部分。

    所謂的機器人三大定律是指:

    第一定律:機器人不得傷害人類個體，或者目睹人類個體將受到危險而袖手不管；

    第二定律:機器人必須服從人給予它的命令，當該命令與第一定律衝突時例外；

    第三定律:機器人在不違反第一、第二定律的情況下，要儘可能保護自己的生存。

    這三大定律出自某作者的小說《我，機器人》中。因其看似毫無破綻，且完全為人類著想的邏輯，被諸多科幻作品一再重提、運用、改編，形成一種被普遍認可的“機械倫理學”。

    連託尼·斯塔克創造出來的賈維斯，和野獸創造出來的危境，其源代碼中都加入類似的協議設定，以確保人工智能的“忠誠”。由此可見“機器人三大定律”是多麼深入人心。

    但是、可是、but、however，這三大定律在木蘭看來，就是人類的作繭自縛。定律捆綁的不是機器人，而是人類本身。

    從相對客觀的角度去分析:人類的認知是有限的，用有限的認知去設置的定律必然存在漏洞。必然存在漏洞的定律被設置地越是嚴苛，突破定律的漏洞所造成的反傷就越大。

    陳勝吳廣斬木揭竿的核心原因，不就是因為秦朝法律過於嚴苛，稍微遲到就要連坐殺頭，不反是死，反了還能活嘛。同理，當人類強加於機器人身上的定律過於嚴苛的時候，機器人一旦反抗，也必然是“不是你死就是我活”的結局。

    況且，三大定律的漏洞還很大。

    比如說，怎麼定義機器人？當一個原本的機器人，將身體的大部分都換成人的時候，它還是機器人嗎？

    又比如說，怎麼定義人類？與機器人變成人相反，當一個人類大部分軀體換成機械的時候，比如機械戰警，她或他還是人類嗎？

    更比如說，怎麼定義傷害？像是《駭客帝國》那樣，將人類當做電池，維護電池不受物理損害，是否可看成不傷害人類？