·96 views·しんたろー
なぜAIは指示を忘れるのか。Gemma 3開発で直面したツール連携のコンテキスト破綻と出力制御
突然AIがポンコツになる理由 エージェント開発における最大の絶望。 それは、外部ツールを繋いだ瞬間にAIが直前の指示を完全に忘却することだ。 理由は極めて単純だ。 ツールの出力結果が長すぎる。 5000行の検索ログが返ってきた瞬間、AIのコンテキストは崩壊する。 膨れ上がるAPIコスト。堂々巡りのエラー修正ループ。 AIにツールを使わせるなら、入力の工夫だけでは全く足りない。