Inference Brew

GPT-5.5 Codexにおける推論トークン・クラスタリングの異常

00:00 / --:--

← ホームへ戻る

GPT-5.5 Codexにおける推論トークン・クラスタリングの異常

1. GPT-5.5 Codexにおける推論トークン・クラスタリングの異常

GPT-5.5 Codexのテレメトリデータから、推論トークン数に関する重大なクラスタリング異常が明らかになりました。分析によると、GPT-5.5の応答の82%が、推論トークン数ちょうど516(またはその倍数)で終了しています。この集中は、推論強度の低下や、トークン数がちょうど516で終了した際に誤った最終回答を返すという既知のバグと相関しています。複雑な推論タスクでGPT-5.5 Codexを利用する開発者は、トークン使用量を監視し、スケジューラや切り捨てのしきい値に関連する潜在的なパフォーマンス低下に注意する必要があります。

  • GPT-5.5 Codexの応答には、推論トークン数がちょうど516で集中し、1034や1552でもわずかなスパイクが見られるというクラスタリング異常がある。
  • GPT-5.5は全テレメトリ応答の19.3%を占めるに過ぎないが、トークン数516のイベントの82.0%を占めている。
  • GPT-5.5における「ちょうど516」対「516以上」の比率は、他のモデルのベースラインと比較して33.6倍高い。
  • このクラスタリングは、複雑なタスクにおける推論強度の低下および誤った最終回答と一致している。

推論予算が特定のしきい値に達した際に誤った回答を引き起こす、GPT-5.5 Codexのプラットフォームレベルのバグの可能性を開発者に警告するものです。

SOURCES

2. ByteDanceの動画生成AI「Seedance」がハリウッドで注目

ByteDanceの動画生成AI「Seedance」が、マルチモーダル開発者や映画製作者向けに非常に競争力のある価格モデルを提供し、米国のクリエイティブ市場に浸透しつつあります。動画と音声の生成コストは1分あたり9ドルで、GoogleのVeo(1分あたり24ドル)よりも大幅に安価です。このモデルはタイムラインベースのプロンプトや、物理演算、照明、カメラワークの高度な制御機能を備えていますが、地政学的懸念や知的財産権の問題により、大手スタジオでの採用は依然として限定的です。

  • ByteDanceの動画生成AI「Seedance」が、米国の独立系映画製作者の間で採用され始めている。
  • Seedanceの動画・音声生成コストは1分あたり9ドルで、GoogleのVeoモデルの1分あたり24ドルと比較して安価である。
  • タイムラインベースのプロンプト機能や、物理演算、照明、カメラワークの理解力が向上している。
  • 地政学的リスクや知的財産権の問題が、伝統的な大手ハリウッドスタジオでの採用を制限する可能性がある。

Google Veoの1分あたり24ドルに対し、1分あたり9ドルという非常に費用対効果の高い動画生成の選択肢を開発者やクリエイターに提供します。

SOURCES

3. Anthropicの最新モデルでPi editツール呼び出しの不具合が発生

Anthropicの最新モデル(Opus 4.8およびSonnet 5)を使用してエージェントワークフローを構築している開発者は、Pi editツールでの呼び出し失敗に遭遇する可能性があります。これらのモデルがedits[]配列に許可されていないフィールドを挿入し、スキーマ検証で拒否されるケースが確認されています。この挙動は、より寛容なClaude Codeハーネスでの事後学習による副作用である可能性が高く、文脈に大きく依存し、エージェントの履歴が長くなるほど悪化します。開発者は、履歴から思考ブロックを取り除く(これにより失敗が50%減少します)か、厳格なツール呼び出しを有効にすることで、この問題を解決できます。

  • AnthropicのOpus 4.8およびSonnet 5モデルが、edits[]配列に不正なフィールドを挿入し、Pi editツールを誤って呼び出している。
  • この失敗は、単発のプロンプトよりも、エージェントの履歴が長い場合に頻繁に発生する。
  • 会話履歴から思考ブロックを取り除くことで、失敗率が50%減少した。
  • 厳格なツール呼び出しを有効にすることで、スキーマ違反の問題が完全に解消された。

厳格なツール呼び出しの適用や思考ブロックの削除により、エージェントワークフローにおけるサイレントエラーをデバッグし、防止するのに役立ちます。

SOURCES

4. Fableが3Dガウシアンスプラッティング向け「.splat4d」形式を発表

Fableは、動的な時系列3Dガウシアンスプラッティングの配信を最適化するために設計された「.splat4d」ファイル形式を発表しました。この形式はHTTP Rangeリクエストに特化して構成されており、カスタムバックエンドサーバーを必要とせずに、S3、GCS、R2などの静的オブジェクトストレージから3Dシーケンスの特定のセグメントを直接ストリーミングできます。RustとJavaScript間で決定論的なデコードを可能にする誤差境界量子化を備えており、フレームディレクトリを単一のシーク可能なファイルにコンパイルするPythonユーティリティ(splats4d)も付属しています。

  • Fableは時系列3Dガウシアンスプラッティング用に.splat4dファイル形式を開発した。
  • この形式はHTTP Rangeリクエストに最適化されており、S3、GCS、R2などの静的ホストから特定のセグメントを取得できる。
  • SZ/ZFP形式の誤差境界量子化を使用し、RustとJavaScript間でビット単位で同一の決定論的なデコードを保証する。
  • フレームごとの.splatファイルのディレクトリを単一の.splat4dファイルにエンコードするPythonパッケージ「splats4d」が利用可能。

カスタムサーバー側のロジックなしで、HTTP Rangeリクエストを使用して標準的なクラウドストレージから動的な3Dシーンを効率的にストリーミングおよびレンダリングできます。

SOURCES

5. ローカルのQwen3.6とClaude Codeによる自律的なゲーム開発

ローカルでの「バイブコーディング(vibecoding)」の実践的なデモンストレーションとして、ある開発者がローカルのQwen3.6 27BモデルとClaude Codeを組み合わせ、Javaゲーム用の複雑なA*経路探索システムを構築しました。このセットアップは、モデルがリアルタイムのログを監視し、コードをリファクタリングし、インクリメンタルな更新後に自動的にゲームを再起動できる自律テストスイートに依存しています。このワークフローは、ローカルのオープンウェイトモデルとエージェント型コーディングツールを組み合わせることで、継続的かつハンズオフなデバッグが可能であることを示しています。

  • 開発者がローカルのClaude CodeとQwen3.6-27b-mtp-q8モデルを使用し、JavaでNPCのA*経路探索システムをゼロから構築した。
  • モデルがリアルタイムでログを監視し、コードをリファクタリングし、ゲームを再起動する自律テストスイートを活用した。
  • NPCのナビゲーション機能を洗練させるために、12時間の自動テストマラソンを実施した。
  • 結果として、NPCは複雑な障害物を回避し、登り降りや隙間を避けて移動することに成功した。

自律テストスイートとローカルLLMがリアルタイムのデバッグとリファクタリングを処理する、実用的で完全にローカルな「バイブコーディング」ワークフローを実証しています。

SOURCES

6. llama.cppがDeepSeek V4向け量子化KVキャッシュサポートを統合

DeepSeek V4の初期実装と様々なGGUF量子化のリリースに続き、llama.cppプロジェクトは量子化KVキャッシュのサポートを統合しました。このアップデートにより、開発者は単一のRTX PRO 6000 GPU上で100万トークンのコンテキストウィンドウを使用してモデルを実行できるようになり、以前のバージョンと比較してVRAM使用量を大幅に削減できます。

  • llama.cppがプルリクエスト#25247、#25303、#25202を統合し、量子化KVキャッシュをサポートした。
  • このアップデートにより、q8_0 KVキャッシュを使用して単一のRTX PRO 6000 GPUで100万コンテキストの実行が可能になった。
  • パープレキシティテストでは、f16と比較してQ8_0またはQ4_0キャッシュタイプを使用した場合の劣化は最小限であることが示されている。
  • ベンチマークにより、2,048から100万トークンを超えるコンテキスト長が検証された。

コンシューマー向けハードウェア上でDeepSeek V4の超長文脈ローカル推論を可能にし、以前のメモリ制約を克服します。

SOURCES

7. エージェントワークロード向けRTX 5090でのQwen3.6 27Bチューニング

ローカルのエージェントワークフローを最適化する開発者は、NVIDIA RTX 5090上で動作するQwen3.6 27Bモデルの新しいコミュニティベンチマークを参考にできます。MTPドラフトを10に設定し、192kコンテキストでq8 KVキャッシュを使用するなど、llama.cppのパラメータを調整することで、20時間にわたるコーディングおよびデバッグタスクで平均140.7トークン/秒の速度を達成しました。ただし、ハイブリッドアテンションとSWAキャッシュ処理はまだ完全には最適化されておらず、プロンプト再処理の警告がトリガーされる可能性があることに注意が必要です。

  • RTX 5090、9800X3D、64GB RAMシステムでQwen3.6 27B向けにllama.cppを調整した結果、平均速度140.7トークン/秒を達成した。
  • 設定には、q8 KVキャッシュ、192kコンテキスト、MTPドラフト=10、spec-draft-p-min=0.5、バッチ/ubatchサイズ512を使用した。
  • パフォーマンス指標は、20時間にわたる実際のコーディング、デバッグ、ドキュメント作成タスクを通じて収集された。
  • llama.cppにおけるハイブリッドアテンションとSWAキャッシュ処理はまだ完全には最適化されておらず、時折プロンプト再処理の警告が発生する。

高速なエージェントコーディングとデバッグのために、最新のQwenモデルをローカルで実行するための具体的なパフォーマンス基準と設定パラメータを提供します。

SOURCES

8. RTX 5090でGemma 4 31Bのコンテキストを80Kに拡張

コミュニティでテストされた設定により、RTX 5090 GPU上でGemma 4 31Bモデルのコンテキストウィンドウを80,000トークンまで拡張する方法が実証されました。Docker経由でデプロイし、GGML_CUDA_NO_PINNEDを1に設定し、バックエンドサンプリングを有効にするなどの特定のフラグでllama.cppを設定することで、ローカルのGemma 4デプロイメントにおける以前のコンテキスト制限を回避できます。

  • Gemma 4 31Bモデル(gemma-4-31B-it-Q6_K.gguf)は、RTX 5090上で80,000トークンのコンテキストサイズをサポートできる。
  • セットアップには、環境変数GGML_CUDA_NO_PINNEDを1に設定する必要がある。
  • 設定には、llama.cppの--backend-samplingフラグと--parallel 1フラグを使用する。
  • llama.cppのWebインターフェースユーザーは、この設定をサポートするために「Backend sampling」チェックボックスを有効にする必要がある。

特定の環境変数とバックエンドサンプリングフラグを適用することで、ローカルのGemma 4デプロイメントにおいて大幅に大きなコンテキストウィンドウを利用可能にします。

SOURCES

9. 単一のRTX 3090で200KコンテキストのQwen 27Bを実行

大きなコンテキストウィンドウでローカル推論を実行したい開発者は、GitHubで公開されている「club 3090」設定を活用できます。このセットアップにより、単一のコンシューマー向けNVIDIA RTX 3090 GPUで200KコンテキストウィンドウのQwen 27Bモデルを実行でき、高コンテキストのローカルテストがより身近になります。

  • 単一のNVIDIA RTX 3090グラフィックスカード上で、200KコンテキストウィンドウのQwen 27Bモデルを実行する。
  • この設定は、GitHubで公開されているコミュニティ開発の「club 3090」セットアップに基づいている。

高価なクラウドインフラに頼ることなく、コンシューマー向けハードウェア上で高コンテキストのオープンウェイトモデルをローカルで実行できます。

SOURCES

Inference Brewを受信箱へ

1日5分。無料、いつでも解除できます。

Inference Brewを受信箱へ

1日5分。無料、いつでも解除できます。