Audesso | Daily: AI

AIサプライチェーンの脆弱性

00:00 / --:--

← ホームへ戻る

AIサプライチェーンの脆弱性

1. AIサプライチェーンの脆弱性

50日間にわたってOpenAI、Anthropic、Metaに影響を与えた一連のサプライチェーンインシデントにより、AI企業がリリースパイプラインを管理する方法における体系的な弱点が露呈しました。これらの攻撃はGitHub Actions、OIDCトークン、難読化されていないソースマップの脆弱性を悪用したものであり、現在のレッドチーミングの取り組みがモデルの安全性に過度に集中する一方で、基盤となるインフラストラクチャを軽視していることを示しています。

  • Mini Shai-HuludワームがGitHub Actionsのキャッシュポイズニングを通じて42個の@tanstack/*パッケージを侵害しました。
  • OpenAIは従業員のデバイス侵害を受けてmacOSのセキュリティ証明書を失効させました。
  • AnthropicはClaude Code v2.1.88の難読化されていないソースマップを通じて513,000行のコードを漏洩させました。

今週、CI/CDパイプラインとGitHub Actionsを監査し、OIDCトークンの露出とキャッシュポイズニングのリスクを確認します。

SOURCES

2. AnthropicがStainlessを買収

Anthropicは、2022年以来Anthropic、OpenAI、Google、Cloudflareの公式SDKを支えてきた開発ツールスタートアップであるStainlessを買収しました。この買収はClaudeのデータやツールへの接続能力を向上させることを目的としていますが、Anthropicはすべてのホスト型Stainless製品を終了させる予定です。

  • Stainlessは、TypeScript、Python、Go、Java、Kotlin向けのSDK、CLI、MCPサーバー生成の自動化を専門としています。
  • Anthropicはすべてのホスト型Stainless製品を終了させる予定です。
  • Stainlessは以前、OpenAI、Google、CloudflareのSDKを支えていました。

Anthropicがホスト型Stainless製品を終了させることに伴い、同社のSDK生成およびMCPツールへの変更を注視します。

3. Modalが推論のコールドスタートを削減

Modalは、AI推論のコールドスタート時間をキロ秒単位から数十秒単位へと劇的に短縮するシステムを導入しました。このシステムは、遅延読み込み(lazy loading)、コンテンツアドレス指定キャッシュ、およびCPUとCUDAコンテキストの両方に対するチェックポイント/リストアメカニズムを組み合わせて活用しています。

  • Modalのシステムは、遅延読み込みにImageFS、gVisorによるCPU側のチェックポイント/リストア、およびCUDA側のチェックポイント/リストアを使用しています。
  • コールドスタート時間がキロ秒単位から数十秒単位に短縮されました。
  • Reductoは、新しいインフラストラクチャを使用してコールドスタート時間が6倍(70秒から12秒)短縮されたと報告しています。

レイテンシに敏感な推論ワークロードをModalに移行し、40倍高速化された新しいコールドスタート性能を活用します。

SOURCES

4. エージェントデバッグのためのLangSmith Engine

LangSmith Engineは、AIエージェントのプロダクション障害の検出、診断、修復を自動化するLangSmithプラットフォームの新しい機能です。プロダクションのトレースを監視して異常を検出し、障害が検出されると人間が承認するためのプルリクエストを自動的に作成します。

  • LangSmith Engineは、エラー、評価器の失敗、異常についてプロダクションのトレースを監視します。
  • 障害を検出すると、人間が承認するためのプルリクエストを自動的に作成します。
  • 既存のLangChainのトレーシングおよび評価インフラストラクチャ上に構築されています。

LangSmith Engineをエージェントワークフローに統合し、プロダクション障害の検出と根本原因分析を自動化します。

SOURCES

5. Qwen 3.6 27Bのローカル推論最適化

24GBのRTX 3090でのパフォーマンステストでは、Qwen 3.6 27Bモデルにおいて、ik_llama.cppがアップストリームのllama.cppよりも優れたパフォーマンスを提供することが示されています。この構成では、VRAM効率と高品質な出力を両立させるためにIQ4_KS量子化を利用しています。

  • ik_llama.cppは、ワークロードテストにおいてアップストリームのllama.cppおよびbeellama.cppを上回りました。
  • IQ4_KS量子化は、品質とVRAM効率のバランスを取ります。
  • RTX 3090で1261 tok/sのプリフィルと72.9 tok/sのデコードを達成しました。

24GB GPUでのコンテキストウィンドウとトークンスループットを最大化するために、ik_llama.cppとIQ4_KS量子化を使用してローカル推論スタックを再構成します。

SOURCES

6. SmallCodeエージェントフレームワーク

SmallCodeは、小型のローカルモデル上で実行するように設計されたMITライセンスのコーディングエージェントフレームワークです。自動コンパイルとリンティングのための改善ループが含まれており、ローカルモデルがタスクを完了できない場合にClaudeやOpenAIなどのクラウドベースのモデルへ自動的にエスカレーションする機能をサポートしています。

  • 4BパラメータのGemmaモデルを使用してベンチマークで87/100を達成しました。
  • 自動コンパイルとリンティングのための改善ループを備えています。
  • 複雑なタスクに対してClaudeやOpenAIへの自動エスカレーションをサポートしています。

ローカルのコーディングタスクでSmallCodeをテストし、クラウドモデルへの自動エスカレーションとシンボルグラフインデックス機能を活用します。

SOURCES

デイリーAIシグナルを受信箱へ

1日5分。無料、いつでも解除できます。