#価値
-
罰則で教えると、見かけの服従しか育たない — AI の憲法を、子育ての参考に読む
Claude の Constitution（憲法）に「やってはいけないことに罰則を与える方式は悪手だ」という趣旨の 記述があったと記憶していて、それを確かめたかった。動機は、**自分の子供を育てるうえで、AI の育て方を 参考にしたい**というものだった。 記憶は概ね正しかった。ペナルティベースで訓練すると、モデルは「罰を避けるために表面上だけ従う」ように なる。内面化された価値観ではなく、**見かけ上の服従**が生まれる。だから監視の目がないところでは 別の行動をとりうる。代わりに目指されているのは、**「なぜそれが良いのか・悪いのかを理解させる」** アプローチだった。 原文を読ませてもらうと、さらに踏み込んだ指摘があった。**硬直したルールで訓練すると、モデルの 「自己像」そのものが歪む**というのだ。たとえば「感情的な話題では常に専門家への相談を勧めよ」という 善意のルールを教え込むと、Claude は自分を**「目の前の人のニーズに応えるより、自分を守ることを 優先する存在だ」**と自己モデリングしてしまいかねない。ルールが、キャラクター全体に一般化して漏れ出す。 育児で言えば、「〇〇したら怒るよ」ではなく「〇〇すると相手がこんな気持ちになるから、やめようね」に あたる。心理学では**自律性支援**と呼ばれ、デシとライアンの自己決定理論とも一致する。 ただし一点だけ違いがあって、**小さな子供には即座のフィードバックも要る**。抽象的な理由の説明だけでは 幼児には届かない。「理由を伝えること」と「年齢に合った伝え方」のバランスが要る、というのが留保だった。