當(dāng)機(jī)器可以思考時(shí)
　　
　　2023年3月，在美國亞利桑那州的坦佩市，一輛自動(dòng)駕駛汽車將推著自行車過馬路的伊蓮·赫茨伯格撞倒。當(dāng)時(shí)，該自動(dòng)駕駛汽車以每小時(shí)70千米的速度行駛，并且是在其車載電腦發(fā)現(xiàn)赫茨伯格6秒之后才將她撞倒。6秒的時(shí)間足夠汽車停下來或轉(zhuǎn)彎，但它什么都沒有做，而是直接撞向了她。赫茨伯格在被送往醫(yī)院后死亡，這是第一個(gè)被自動(dòng)駕駛汽車撞死的行人。
　　
　　美國國家運(yùn)輸安全委員會(huì)通過對(duì)這一事件的初步調(diào)查發(fā)現(xiàn)，為確保更順暢的駕駛，這輛自動(dòng)駕駛汽車的緊急制動(dòng)器被設(shè)計(jì)為在自動(dòng)駕駛時(shí)禁用，而且也沒有提醒操作人員注意危險(xiǎn)的設(shè)計(jì)。
　　
　　75年前，美國著名科幻小說家艾薩克·阿西莫夫就提出了機(jī)器人三大定律，其中的機(jī)器人第一定律為：機(jī)器人不能傷害人類，或者坐視人類受到傷害。今天，我們已經(jīng)處在一個(gè)機(jī)器人幾乎隨處可見的世界里，但是對(duì)于我們應(yīng)該如何與機(jī)器人共同生活的深層次問題，仍然沒有完美的答案。
　　
　　在過去的幾年中，盡管出現(xiàn)了很多關(guān)于智能機(jī)器人的報(bào)告和政策建議，但到目前為止，阿西莫夫的定律仍然是一種幻想。
　　
　　歐盟機(jī)器人法律報(bào)告的起草者麥迪·德爾沃將目前的情況與汽車首次出現(xiàn)在道路上的情況進(jìn)行了比較。她說：“第一批駕駛員在開車上路時(shí)沒有規(guī)則可遵守，他們按照自己的想法合理或謹(jǐn)慎地駕駛。但隨著技術(shù)的普及，社會(huì)就需要規(guī)則了。”
　　
　　麻煩的是，規(guī)范機(jī)器人對(duì)人類事務(wù)的干預(yù)比制定道路交通法規(guī)更復(fù)雜。例如，保護(hù)乘客和行人免受自動(dòng)駕駛汽車傷害的立法，無法阻止數(shù)據(jù)抓取算法對(duì)選民投票的影響。用于診斷和治療的醫(yī)療機(jī)器人與戰(zhàn)場上的機(jī)器人需要不同的規(guī)定。
　　
　　機(jī)器人行為守則
　　
　　關(guān)于機(jī)器人的立法還有另一個(gè)障礙，法律過于籠統(tǒng)，不會(huì)過多考慮背景。對(duì)阿西莫夫來說，背景可能構(gòu)成規(guī)則的一部分。他的許多故事探討了機(jī)器人試圖在不同場景中應(yīng)用法律的意外后果。在他1942年出版的小說《環(huán)舞》中，當(dāng)機(jī)器人試圖同時(shí)滿足第二定律（遵守人類給予它的命令）和第三定律（保護(hù)自己不受傷害）時(shí)，機(jī)器人陷入了困境。阿西莫夫的定律非常適合小說，但不適合實(shí)踐。
　　
　　將這種法律解釋為行動(dòng)常識(shí)幾乎是不可能完成的任務(wù)，有學(xué)者曾嘗試這樣去做，但最終因?yàn)樘y而放棄。
　　
　　最終，辯論歸結(jié)為道德問題而不是技術(shù)問題。英國上議院人工智能委員會(huì)的史蒂文·克羅夫特說：“人工智能帶來的新力量需要一種新的道德規(guī)范。為了人類的繁榮，社會(huì)應(yīng)該塑造規(guī)則，而不是讓規(guī)則塑造社會(huì)，這一點(diǎn)至關(guān)重要。不能允許私營公司制定規(guī)程來決定每個(gè)人的利益。”
　　
　　正如克羅夫特所強(qiáng)調(diào)的那樣，不同的地方有不同的文化，不同的文化也有不同的規(guī)則。例如，相比其他許多國家，日本對(duì)伴侶機(jī)器人的接受度要高很多，歐洲國家對(duì)隱私和數(shù)據(jù)收集的態(tài)度與美國不同。
　　
　　盡管如此，肯定有一些所有人都同意的指導(dǎo)方針。無論如何，機(jī)器人有能力對(duì)人類造成傷害——不管在手術(shù)室、戰(zhàn)場上還是在路上。因此，人類的監(jiān)控至關(guān)重要。
　　
　　人們經(jīng)常用“電車難題”思想實(shí)驗(yàn)來表明，允許人工智能自行決定所帶來的危險(xiǎn)。如果自動(dòng)駕駛汽車必須選擇在發(fā)生事故的情況下殺死誰，這對(duì)車上的乘客和路上的行人來說肯定是致命的。但美國華盛頓大學(xué)的瑞安·卡洛認(rèn)為這個(gè)思想實(shí)驗(yàn)很荒謬，讓機(jī)器人除了殺人別無選擇本就是一個(gè)奇怪的假設(shè)，更值得思考的是技術(shù)帶來的新的可能性。
　　
　　卡洛設(shè)想了一種情景：想象一輛混合動(dòng)力的自動(dòng)駕駛汽車，可以通過汽油發(fā)動(dòng)機(jī)為其電池充電。這款車的設(shè)計(jì)目標(biāo)之一，是使其燃油效率最大化。在跑了幾天之后，汽車發(fā)現(xiàn)使用充滿電的電池時(shí)效率最高。它就會(huì)每天晚上在車庫運(yùn)行其發(fā)動(dòng)機(jī)，這樣早上就能使用充滿電的電池了，但這樣做可能會(huì)導(dǎo)致家中的人因一氧化碳中毒而死亡。
　　
　　這明顯違反了不能傷害人類的法律，而且很難被預(yù)見。在這種情況下，我們?nèi)绾闻袛噱e(cuò)在哪里以及應(yīng)該責(zé)怪誰？有人認(rèn)為機(jī)器人的責(zé)任應(yīng)該由制造商承擔(dān)，他們將商品投放到市場，理應(yīng)承擔(dān)責(zé)任。
　　
　　問題在于，對(duì)于誰承擔(dān)責(zé)任，法律通常要求被告預(yù)見其行為的結(jié)果。但是，對(duì)擁有學(xué)習(xí)能力的人工智能來說，這可能并不合理——就像卡洛設(shè)想的電池充電場景一樣。為了避免出現(xiàn)這種不可預(yù)測的行為，有人建議自動(dòng)駕駛汽車不應(yīng)該有自學(xué)能力，但這明顯與人們對(duì)自動(dòng)駕駛汽車的期望不符。
　　
　　我們可以要求的是，機(jī)器人的行為實(shí)現(xiàn)自洽。確保負(fù)責(zé)任地使用算法可能意味著我們需要新的人工智能混合算法，讓機(jī)器學(xué)習(xí)軟件與人類更容易理解的技術(shù)相結(jié)合。這是一個(gè)令人興奮的新研究領(lǐng)域。
　　
　　當(dāng)機(jī)器人越來越像人
　　
　　美國加利福尼亞州帕洛阿爾托未來研究所的理事安妮·伊馬菲登說，如果我們希望人工智能以最小的傷害提供最大的利益，那么關(guān)鍵不僅僅是讓人們理解機(jī)器人，而且要制造更好的機(jī)器人。她的答案是確保機(jī)器人不會(huì)具備我們對(duì)事物先入為主的執(zhí)著。這樣我們就可以避免一些悄悄進(jìn)入人工智能的偏見，并扭曲自動(dòng)化的決策制定。
　　
　　如果我們能夠克服這些挑戰(zhàn)，那么，能拯救生命、行為自洽并公平對(duì)待我們的機(jī)器人將受到大多數(shù)人的歡迎。但是，隨著我們能夠創(chuàng)造越來越像人類的機(jī)器人，我們必須考慮讓我們感到舒服的人機(jī)互動(dòng)方式。
　　
　　語音識(shí)別技術(shù)讓我們能夠或多或少地與我們的設(shè)備交談。谷歌公司通過人工智能合成的聲音，足以使另一端的人認(rèn)為他們正在與一個(gè)人交談。機(jī)器人專家正在制作具有栩栩如生的肉體和頭發(fā)的人形機(jī)器人。與此同時(shí)，又產(chǎn)生了一個(gè)更大的擔(dān)憂。人類很容易形成情感依戀。但是無論機(jī)器人看起來多么逼真，我們都應(yīng)該清楚自己是與機(jī)器，還是與人進(jìn)行交流。
　　
　　在日益自動(dòng)化的世界中，人們很容易忘記機(jī)器是由人類編程、擁有和操作的。設(shè)計(jì)和使用它們是為了一些更高、更人性化的目標(biāo)：安全性、舒適性、效率、利潤。設(shè)計(jì)機(jī)器人遵循的法律是一個(gè)有趣的思想實(shí)驗(yàn)，但最終會(huì)分散注意力。真正的機(jī)器人法律應(yīng)該對(duì)相關(guān)的人進(jìn)行檢查，而不是對(duì)機(jī)器。
　　
　　作為人類，我們需要依賴深厚的傳統(tǒng)智慧來解決這些基本問題，不能單靠技術(shù)來回答。然而，至少有一點(diǎn)我們都會(huì)認(rèn)可：人類應(yīng)該始終能夠關(guān)閉機(jī)器。
　　
　　機(jī)器人五大法則
　　
　　任何普遍的機(jī)器人法則都可能包括以下內(nèi)容。
　　
　　法則1：機(jī)器人不得傷害人類或讓人類受到傷害——除非它受到另一個(gè)人的監(jiān)督。
　　
　　法則2：機(jī)器人必須能夠解釋自己的行為。
　　
　　法則3：機(jī)器人應(yīng)該抵制任何先入為主的沖動(dòng)。
　　
　　法則4：機(jī)器人不得冒充人類。
　　
　　法則5：機(jī)器人應(yīng)始終有一個(gè)關(guān)閉按鈕。