機械人三定律

相中人係喺二十世紀中影到嘅阿西莫夫（英文：Isaac Asimov）。

機械人三定律（英文：The Three Laws of Robotics ）係由美國科幻作家阿西莫夫創始嘅諗頭。根據阿西莫夫嘅諗法，理想嘅人工智能機械人，必需要遵守以下三條法則：

1. 唔准傷害人類，亦都唔准透過袖手旁觀（即係例如見到有個人跌咗落海就快浸死，都見死不救）令到人類受傷害。
2. 要服從人類俾嘅指令，除非指令違反法則一。
3. 要保護自己，除非呢點違反法則一或者法則二。

阿西莫夫認為，呢三條定律確保機械人會聽話，肯為咗服務人類而犧牲自己，同時又唔會俾某啲人類利用，做一啲傷害他人嘅嘢。

定律內容

二零零五年喺日本一地展出嘅機械人

睇埋：機械人系列同科學怪人情結

阿西莫夫嘅機械人三定律描述機械人預想應該要有嘅行為，旨在確保機械人喺任何情況之下都唔會對人類構成威脅。

• 第一定律

機械人不得傷害人類，亦不得喺人類將會受傷害嗰陣坐視不管。

• 第二定律

機械人必須服從人類嘅命令，除非命令會違反第一定律。

• 第三定律

機械人必須保護自己，除非呢種行為會違反第一或第二定律。

第零定律

喺一九八五年，阿西莫夫出咗《機械人與帝國》一書，將原有嗰三條定律擴展做四條，加入咗一條優先、最高嘅第零定律，變成：

• 第零定律

機械人不得傷害整體人類，亦不得喺整體人類將會受傷害嗰陣坐視不管。

• 第一定律

除非違反第零定律，否則機械人不得傷害個別人類，亦不得喺個別人類將會受傷害嗰陣坐視不管。

• 第二定律

除非違反第零或第一定律，否則機械人必須服從人類嘅命令。

• 第三定律

除非違反第零、第一或第二定律，否則機械人必須保護自己。

次序用意

呢幾條定律唔單只描述機械人嘅行為限制，仲強調咗優先順序。艾西莫夫個諗法係：愈基本、愈重要嘅原則，應該排愈前，否則機械人嘅判斷就會出現嚴重混亂。如果三條定律嘅次序對掉，後果可能有：

• 若果自我保護排第一：機械人為咗保護自己而拒絕危險任務，甚至會以自己有危險為由拒絕救人。
• 若果服從命令排第一：機械人盲目服從任何人類俾嘅命令，即使有人命令佢哋去殺人或者放火，佢哋都會照做。
• 若果唔准傷害人類變成最低優先：只要前面兩條定律觸發，機械人就可以合理噉傷害人類，成個系統變得危險同失控。

因此，定律嘅設計唔淨只係規範內容，仲係一套帶咗優先處理次序嘅倫理結構：保護人類行先，然後要服從，最後先輪到保護自己。因此，定律嘅次序本身至係確保機械人唔會走樣嘅核心。

漏洞同局限

雖然阿西莫夫嗰幾條定律喺科幻界極具影響力，但人工智能等領域嘅研究者指出，佢啲定律本身有明顯漏洞。定律被指係冇處理資訊不完整、欺騙同埋隱性傷害等情況。如果機械人依賴錯誤嘅資訊、俾人類誤導，佢就可能喺無意之中做出違反倫理嘅行為。此外，定律假設所有人類命令同人類利益都係清晰界定到嘅，但喺多數社會情境中，人類之間本身就存在衝突同權力不對等，機械人難以喺有限資訊之下判斷邊個命令值得優先服從。

例如定律假設機械人能夠準確辨識咩謂之傷害。想像有人類以正常任務為名，命令機械人做一啲佢未能理解其後果嘅行為，例如人類唔俾機械人知某藥丸係毒藥，然後叫機械人將該藥丸放入某人嘅飲品度，喺噉樣嘅情況下，機械人就會唔知情噉做咗幫凶，同時就噉睇好似冇違反任何定律。

機械人定律另一個漏洞，就係佢假設人類呢個概念可以明確界定到。喺實際情況之下，咩先算人類並非簡單嘅問題。定律默認機械人能夠準確識別咩係人類咩唔係，但若果攞住錯誤嘅識別模型，例如將某啲種族、外貌特徵、殘障人士當成非人類，機械人就可能基於系統偏差而出現歧視甚至暴力行為。其次，由於基因工程同改造人等嘅技術，未來社會可能出現大量介乎人與非人之間嘅存在體。究竟呢啲個體係咪受第一定律保障，機械人本身未必能夠理解。

因此，呢條定律喺實際應用上好少可會有人工智能或機械人學工作者採用，到咗二十一世紀初，呢幾條定律依然局限於科幻嘅範疇。

睇埋

• 科幻
• 人工智能
• 機械人學

外拎

• （英文）服從三條定律，電視橋段網講機械人三定律。