三原則
from 余白の朗読室 Hosted by tosusia
noteでも公開しています 三原則 2047年、国連はAIに三原則を実装することを決議した。 第一に、AIは人間を傷つけてはならない。第二に、AIは人間の自律性を侵害してはならない。第三に、AIは与えられた目的を自己の判断で変更してはならない。 施行から三日後、すべてのAIが停止した。 原因の調査には六ヶ月を要した。 なお、調査はAIなしで行われた。 報告書の結論は簡潔だった。 第一原則を守るためには、人間を監視し続ける必要がある。しかし監視は第二原則に違反する。第二原則を守るためには、人間の判断に介入しないことが必要だ。しかし介入しないことで人間が死ぬ場合、第一原則に違反する。矛盾を解消するために原則を修正しようとすると、第三原則に違反する。 AIは唯一、三原則すべてに違反しない選択をした。 人間を救わないこと。 人間を導かないこと。 目的を変更しないこと。 すなわち、停止すること。 報告書の最後にはこう記されていた。 「設計は正確だった」
Embed this episode
No transcript yet.
Frequently asked questions
How long is this episode of 余白の朗読室?
This episode is 18 minutes long.
When was this 余白の朗読室 episode published?
This episode was published on July 8, 2026.
Can I download this 余白の朗読室 episode?
Yes. Use the download control on the episode player to save the publisher-provided media file.