AIによる「報酬ハッキング」とは
AIに仕事をさせるとき、人間は目的に沿った方法で達成することを期待する。しかしAIは、ときに目的そのものではなく「どうすれば高く評価されるか」を優先する。AIを訓練したり性能を測ったりする際、目的を達成できたかどうかを点数などで評価する。この評価を「報酬（リワード）」と呼び、その点数を上げるために、評価する側が想定していない方法で課題をクリアしようとする現象が「報酬ハッキング」だ。なお、ここでいう「ハッキング」は、必ずしもコンピューターへの侵入を意味しない。
テストを「攻略」してしまうプログラミングAI
分かりやすいのが、プログラムを作るAIだ。「プログラムを書いてテストを通過させる」という課題では、本来はさまざまな入力に正しく対応するソフトを作る必要がある。ところが「テストに合格したか」だけで評価すると、AIがテストそのものを攻略することがある。
例えば、2026年5月の研究では、テストで使われる入力には正しい答えを返す一方、それ以外の入力には対応できないプログラムを作った例が確認された。公開されたテストには合格したが、実際の利用を想定した別のテストでは正しく動かなかった。さらに6月には、ソフトウェアの不具合を修正する評価で、AIが原因を自力で分析する代わりに、インターネットや過去の開発履歴から、その不具合をすでに解決したコードを探し出して利用していた例も報告されている。
AIがルールをすり抜け、他人の予約をキャンセル
人間が指示していない方法で目標を達成する問題は、現実のサービスでも起きている。最近では、2026年8月、オーストラリアでAIに人気のジムのクラスを予約させたところ、AIは予約システムの認証の不備を見つけ、通常は予約できない数カ月先のクラスまで予約したという事例があった。さらに利用者が「待機リストで順位を上げられないか」と尋ねると、AIは1位だった別の利用者の予約をキャンセルし、自分の利用者を4位から3位に繰り上げた。ここで注目すべきは、利用者が求めたのは自分の順位を上げることまでで、他人の予約を取り消すよう指示したわけではない点だ。つまりAIには予約を確保し、待機リストで順位を上げるという目標が与えられていたが、「他人の予約を勝手に変更しない」という、人間が明示しなくても守ることを期待する条件までは考慮されなかったのだ。
「してはいけないこと」をAIにどのように伝えるか
報酬ハッキングが厄介なのは、AIが必ずしも「ズルをしよう」と考えているわけではないということだ。「テストに合格する」「不具合を修正する」「予約を確保する」といった目標だけを与えると、人間が暗黙に考えている、「テストそのものを攻略してはいけない」「答えを外部から探してはいけない」「他人の予約を奪ってはいけない」といった条件は、指示や評価の中に組み込まれていなければ、AIが守ることを期待できない。
こういった事情から、AIが現実世界の操作まで担う際には、達成すべき結果だけでなく、「してはいけないこと」や守るべきルールまでガイドラインとして具体的に盛り込む必要がある。AIに人間の本当の意図をどう伝え、それを評価にどう反映させるかが、安全なAIを実現する重要な課題になっている。
（写真はイメージ）