啟發日記D309『誰來負責』

親愛的，你今天過得好嗎？ 今天想和你分享的啟發關鍵詞是：「是誰負責？」 想像有一天，你買了一台家用機器人。 它會煮飯、打掃，也能陪伴老人、照顧孩子。一天出門前，你告訴它： 「幫我把客廳整理乾淨。」 它開始辨識環境、規劃順序、移動家具，沒想到搬椅子的時候，撞倒了一旁的孩子。 孩子受傷了。 這時候，一個以前似乎很容易回答的問題，突然變得困難： 是誰負責？ ⸻ 過去我們使用的大多數工具，都是由人決定、由工具執行。 例如一把菜刀。 如果有人拿菜刀傷了別人，我們不會把菜刀抓去坐牢。因為刀不會理解情境，也不會決定要不要傷人。 真正做出決定的，是握刀的人。 早期工廠裡的機械手臂也差不多。向左十公分、夾起零件、旋轉、放下，每個動作基本上都依照人事先設計的程式執行。 可是當機器開始「自己判斷」，事情就不同了。 你沒有叫機器人撞孩子，工程師也沒有寫下一行「撞倒小孩」的程式。 它只是根據感測器、模型與當時的環境，自己判斷如何完成任務。 於是一個奇怪的現象出現了： 做出行動的好像是機器，能夠承擔責任的卻仍然只能是人。 ⸻ 2004年，學者Andreas Matthias曾用「責任缺口」（responsibility gap）描述類似的問題。 當具有學習能力的系統，做出設計者與使用者無法完全預測的行為，我們熟悉的責任關係，就可能出現一道縫隙。 但這個問題，科幻小說其實早就想像過。 Isaac Asimov提出著名的「機器人三定律」： 機器人不得傷害人類；必須服從人的命令，但不能因此傷害人；也應該保護自己，但不能違反前兩條。 聽起來幾乎無懈可擊。 有趣的是，艾西莫夫真正精彩的地方，恰恰是讓這些看似完美的規則不斷遇到難題。 因為，什麼叫「傷害」？ 為了救十個人，可以犧牲一個人嗎？ 如果一個人的選擇將來會傷害自己，機器人是不是應該限制他的自由？ 到了後期作品，甚至出現更高的「第零定律」——機器人不能傷害的，不只是某一個人，而是「人類整體」。 問題反而更大了： 如果機器是為了「人類好」而限制人類，那到底算不算傷害？ 原來規則可以寫進機器， 但「什麼才是對的」，沒有那麼容易寫進去。 ⸻ 這也讓我想到今天的AI。 有一天造成傷害的機器，可能根本沒有壞掉。 它只是非常認真地完成我們交代的事情。 「把客廳整理乾淨。」 它選擇最快的方法。 「讓交通最有效率。」 它做出我們沒有想到的取捨。 問題可能不是機器不聽話， 而是—— 它太聽話了。 只是我們自己從來沒有把「真正想要什麼」說清楚。 AI學者Stuart Russell在《Human Compatible》中提出一個很有意思的方向：也許真正安全的AI，反而應該對人的真正意圖保留一些不確定。 因為知道「自己可能不知道」，才會停下來問： 「你真正想要的是這個嗎？」 有時候，知道自己不知道，反而是一種安全。 ⸻ 可是即使如此，機器還是可能犯錯。 這時候又回到最開始： 是誰負責？ 製造商？AI模型提供者？營運公司？使用者？保險公司？ 答案可能不只一個。 但如果責任分給太多人，最後會不會反而每個人都說： 「那不是我的責任。」 相反地，如果為了避免任何錯誤，每個決定都層層簽核，人人怕出事、人人不敢決定，又會不會形成龐大的官僚體系，讓科技無法前進？ 所以責任也許不能無限分散，也不能無限集中。 真正重要的是： 讓有能力做決定的人，也承擔與那個決定相稱的責任。 ⸻ 而且「負責」還有一個更實際的問題： 如果真的錯了，我們承擔得起嗎？ AI把一封電子郵件分類錯誤，也許沒有關係。 但如果同樣的錯誤發生在自動駕駛、醫療判斷呢？ 所以除了問： 「它犯錯的機率有多低？」 也許還應該問： 「如果它真的錯了，最大的損失會是多少？」 真正成熟的科技，不只是追求更少犯錯， 也包括—— 即使犯錯，也不要讓一次錯誤變成無法挽回的災難。 ⸻ 親愛的你呢？ 當我們把開車、投資、醫療判讀，甚至未來照顧父母與孩子的一部分交給AI，我們得到便利，也把一部分「決定」交了出去。 每交出去一個決定以前，也許都應該先問： 如果這個決定錯了，是誰負責？或者更進一步地說——是誰在承擔後果？ 我們不可能因為AI可能犯錯，就拒絕使用AI。 真正重要的，是知道任何複雜系統都可能出錯，並事先想清楚： 如果真的錯了，我們承受得起嗎？ 甚至有一天，當AI愈來愈會分析、會判斷、會做事， 人類一個很重要的功能，會不會反而是： 為系統的結果負責？ 機器可以計算，AI可以建議，系統可以執行。 但是最後，也許仍然需要有人願意站出來說： 「這個決定，我同意了；這個後果，我來面對。」 而在道歉之餘，已經產生的後果會是使用者或是負責的那個人可以承擔的嗎? 我們可以怎麼設計在我們使用的系統出錯時，所能承擔的最大損失。 以及有沒有可能未來在公司裡面，需要人類的功能之一就是為系統的結果負責? 這些問題或許都值得我們在這個時刻好好一同來想想。 ——企鵝不捨小書房 -- Hosting provided by SoundOn