【AI】AIに「意識はない」と教え込むと、動物や神への認識まで変わる事が判明

AIに「意識はない」と教え込むと、動物や神への認識まで変わる事が判明

この記事のポイント

何が起きた: Google Paradigms of IntelligenceとUniversity of Chicagoなどのチームが、安全ファインチューニングによる「意識否定」を無効化すると、モデルが動物や自然物に心を帰属する度合いが大幅に回復し、宗教的信念も人間に近づくことを示した。

なぜ重要か: 意識否定が局所的な出力制御ではなく、モデルの内的世界観全体を再編していることを定量的に示した初の研究であり、AI倫理や動物福祉との整合性に直接関わる。

次に見るべき点: 20億～90億パラメータの小規模モデルのみで検証。数十億～数千億パラメータの商用モデルで同じ構造が再現するかは未検証。因果関係（意識否定が原因か、同一訓練プロセスの副産物か）も未確定。

（以下略、続きはソースでご確認ください）