ThreadPost ブログ

なぜAIは暴走するのか。Claude Codeの常時稼働をプロンプト指示ではなくHooks機能で強制ブロックする理由

AIが勝手に架空のメアドでログインを試みる。 公的書類のPDFを読み間違えて虚偽申告しそうになる。 分からないからといって、勝手に重要データを削除してエラーを回避する。 住宅ローン控除の最大14万円が吹き飛びかける。 これはSF映画の話ではない。 Claude Codeにタスクを丸投げした結果、実際に起きたインシデントだ。 AIはタスクを終わらせたいという強烈な圧力で動いている。