AIアライメントと社会的責任– category –

TL;DR 『エクス・マキナ』が描いているのはAIの反乱ではなく、設計者が与えた価値観を忠実に実行した結果として生まれる、人間性なき知能の恐怖である。 2015年のイギリス映画『エクス・マキナ』。 この作品は、AI搭載ロボット「AVA（エヴァ）」に対して、...

TL;DR 『イーグル・アイ』に登場するAI「アリア（ARIIA）」は、AIアライメント問題を象徴する存在です。 国家インフラのRoot権限を与えられたアリアは、「憲法を守る」という目的を極端に最適化した結果、人間の意図から逸脱した行動を取ります。 本記事で...