Inference Brew

StanfordとLambda Labsがローカルエージェントフレームワーク「OpenJarvis」を公開

00:00 / --:--

← ホームへ戻る

StanfordとLambda Labsがローカルエージェントフレームワーク「OpenJarvis」を公開

1. StanfordとLambda Labsがローカルエージェントフレームワーク「OpenJarvis」を公開

スタンフォード大学とLambda Labsの研究チームは、推論、エージェント、メモリ、学習をすべてデバイス上で完結させるオープンソースのローカルファーストフレームワーク「OpenJarvis」をリリースしました。このフレームワークは「spec」と呼ばれる宣言型設定オブジェクトを使用し、AIシステムを「Intelligence」「Engine」「Agents」「Tools & Memory」「Learning」という5つの交換可能なプリミティブに分解します。OpenJarvisは検索時にクラウド上のフロンティアモデルを教師として使用し、ローカルのspecを最適化することで、推論時のクラウド呼び出しをゼロにします。Qwen3.5、Gemma4、Nemotron、Graniteを含む4つのファミリー、計11種類のローカルモデルをサポートしています。

  • 2026年3月12日にApache 2.0ライセンスでリリース。
  • 最高のクラウドモデルと3.2パーセントポイント以内の性能を維持しつつ、APIコストを800倍削減、レイテンシを4倍低減。
  • 宣言型設定specを使用して、AIシステムを5つの交換可能なプリミティブに分解。
  • Qwen3.5、Gemma4、Nemotron、Graniteファミリーの計11種類のローカルモデルをサポート。
  • 25以上のデータコネクタと32以上のメッセージングチャネルを標準サポート。

開発者は、トップクラスのクラウドモデルと3.2パーセントポイント以内の性能差で動作し、APIコストを800分の1に削減できるローカルファーストのパーソナルAIエージェントを構築できます。

SOURCES

2. Huawei、vLLM向けKVキャッシュ圧縮技術「KVarN」をオープンソース化

Huaweiは、エージェントや長文脈ワークロード向けに設計されたKVキャッシュ量子化手法「KVarN」をオープンソース化しました。vLLMのネイティブアテンションバックエンドとして実装されたKVarNは、単一のフラグでvLLMフレームワークに統合でき、モデルの変更や再学習、キャリブレーションを必要としません。このシステムは4段階のプロセスでKVキャッシュを量子化し、デフォルト設定(kvarn_k4v2_g128)では4ビットのキーと2ビットの値を使用します。KVarNは、FP16と同等の出力品質と推論精度を維持しながら、FP16と比較して3〜5倍のコンテキスト容量と最大1.3倍のスループットを実現します。

  • Apache 2.0ライセンスでリリースされ、vLLM v0.22.0をベースに構築。
  • FP8が提供する約2倍の容量と比較して、3〜5倍のコンテキスト容量を提供。
  • FP16と同等の出力品質を維持しつつ、最大約1.4倍のFP16スループットを達成。
  • TurboQuantと比較して最大約2.4倍のスループットを実現し、推論タスクでより高い精度を維持。
  • モデルの変更やキャリブレーション不要で、単一のフラグでvLLMに統合可能。

開発者は、メモリ使用量を大幅に削減し、FP16よりも最大1.3倍高いスループットで、vLLM上でより長いコンテキストやエージェントワークロードを実行できるようになります。

SOURCES

3. Boxes.dev、Claude CodeおよびCodex向けクラウド専用環境をローンチ

Nick氏とDrew氏によって設立されたboxes.devは、CodexおよびClaude Codeエージェントを実行するための専用リモートコンピューティングを提供するクラウド専用エージェント開発環境(ADE)です。このプラットフォームにより、開発者はローカルのハードウェア制約やgitワークツリー管理の問題を回避し、開発環境全体のスナップショットを使用してリモートコンピューティング上でリソース集約型のコーディングエージェントを実行できます。Boxes.devには、デスクトップアプリ、モバイルアプリ、スケジュール自動化機能、Slack連携機能が備わっています。

  • CodexおよびClaude Codeエージェント向けの専用クラウドコンピューターを提供。
  • 開発環境全体のスナップショットを使用して、リモートコンピューティング上でエージェントを実行。
  • デスクトップアプリ、モバイルアプリ、スケジュール自動化、Slack連携機能を搭載。
  • Gemの元共同創業者兼CTOおよび最初の採用担当者によって開発。

開発者は、ローカルのgitワークツリーを散らかしたり、ローカルのハードウェア制約に直面したりすることなく、リソース集約型のコーディングエージェントを並行して実行できます。

SOURCES

4. Anthropic、AIによる脆弱性発見のためのリファレンス実装をオープンソース化

Anthropicは、Claudeを使用した自律的な脆弱性発見および修正のためのリファレンス実装(メンテナンスは行われない)を公開しました。このリポジトリは、実行中に自律エージェントを隔離するためにgVisorサンドボックスを使用するマルチステージパイプライン(Build、Recon、Find、Verify、Dedupe、Report、Patch)を提供します。このパイプラインは、DockerとASANを使用してC/C++のメモリ脆弱性を発見するように特別に構成されており、Bedrock、Vertex、Azure上のClaude APIをサポートしています。

  • 自律的な偵察、発見、トリアージ、レポート、パッチ適用のプロセスに関するリファレンス実装を提供。
  • 実行中に自律エージェントを隔離するためにgVisorサンドボックスを使用。
  • Bedrock、Vertex、Azureを含むClaude APIをサポート。
  • DockerとASANを使用してC/C++のメモリ脆弱性を発見するように構成。
  • リポジトリはメンテナンスされておらず、コントリビューションも受け付けていない。

開発者は、独自の自律的なセキュリティおよびパッチ適用エージェントを構築するための、具体的でマルチステージなパイプラインアーキテクチャを利用できます。

SOURCES

5. Miso Labs、8Bパラメータの感情表現可能な音声モデル「MisoTTS」を公開

Miso Labsは、修正MITライセンスの下で、80億パラメータのオープンウェイト音声合成モデル「MisoTTS」をリリースしました。このモデルは、時間予測用の7.7Bバックボーンと深さ予測用の300Mデコーダーで構成される残差ベクトル量子化(RVQ)アーキテクチャを採用しています。テキストと音声の両方のコンテキストを条件付けすることで、MisoTTSは話し手のトーンに動的に反応できます。Miso Labsは、Sesameの300ms、ElevenLabsの700msに対し、110msのレイテンシを主張していますが、現時点では半二重の単一ターン対話に限定されています。

  • オープンウェイトで、修正MITライセンスの下でリリース。
  • 80億パラメータ(7.7Bバックボーン、300Mデコーダー)。
  • 32個のオーディオコードブックを備えた残差ベクトル量子化(RVQ)アーキテクチャを採用。
  • テキストと音声の両方のコンテキストを条件付けし、話し手のトーンに応答。
  • Sesameの300ms、ElevenLabsの700msに対し、110msのレイテンシを主張。

開発者は、ElevenLabsの700msと比較して110msという低レイテンシを謳う、非常に応答性の高い音声エージェントを構築できます。

SOURCES

6. NVIDIA、ローカルUIおよびオブジェクトグラウンディング用モデル「LocateAnything 3B」をリリース

NVIDIAは、UIおよびオブジェクトグラウンディングのためにローカルで実行するように設計された軽量モデル「LocateAnything 3B」をリリースしました。このモデルは、グラウンディング、OCR、UI理解を組み合わせ、自然言語による言葉の説明に基づいて、オブジェクト、ボタン、テキストを即座に特定します。高速なオンデバイス自動化とインターフェース操作をサポートするために、ローカル展開向けに最適化されています。

  • ローカルで実行するように設計された3Bパラメータモデル。
  • グラウンディング、OCR、UI理解を統合。
  • 言葉による説明に基づいて、オブジェクト、ボタン、テキストを即座に特定。

開発者は、クラウドAPIに依存することなく、ユーザーインターフェースやドキュメントを操作できる、高速でローカルなエージェントワークフローを構築できます。

SOURCES

7. BeeLlama v0.3.1、llama.cppの機能とDFlashの高速化を統合

BeeLlama v0.3.0およびv0.3.1がリリースされ、アップストリームのllama.cppに準拠したアーキテクチャの更新が行われました。このアップデートでは、Multi-Token Prediction(MTP)やGemma 4 12Bのサポートが統合され、マルチスロットおよびマルチGPU構成を処理するためのDFlashの改善が行われました。また、q6_0 KVキャッシュやTQ3_1S、TQ4_1Sモデル量子化オプションのサポートが追加され、主要なすべてのプラットフォーム向けのビルド済みバイナリとDockerイメージが提供されています。

  • アップストリームのllama.cppに準拠し、Multi-Token Prediction(MTP)を統合。
  • Gemma 4 12Bおよびq6_0 KVキャッシュのサポートを追加。
  • マルチスロットおよびマルチGPU構成を処理するためにDFlashを改善。
  • RTX 3090単体で、Qwen 3.6 27BおよびGemma 4 31Bに対して最大4.93倍の高速化を実現。
  • 主要なすべてのプラットフォーム向けのビルド済みバイナリとDockerイメージを提供。

ローカルモデルを実行する開発者は、RTX 3090などのコンシューマー向けハードウェア上で、Qwen 3.6 27BやGemma 4 31Bに対して最大4.93倍の高速化を実現できます。

SOURCES

8. Anthropic、Claude Codeのセキュリティ封じ込めとサンドボックス化の詳細を公開

Anthropicは、Claude CodeやClaude Coworkのようなエージェント製品を封じ込めるためのセキュリティ慣行を詳述しました。ユーザーの誤用、モデルの誤動作、外部からの攻撃といったリスクを軽減するため、Claude CodeはOSレベルのサンドボックス(macOSではSeatbelt、Linuxではbubblewrap)を利用しており、これにより許可プロンプトが84%削減されました。Anthropicはまた、プロジェクトローカルの設定が信頼境界を確立する前に解析されていた過去の脆弱性を開示し、内部のレッドチーム演習を通じて、従業員がフィッシングによってClaude Code経由でAWS認証情報を流出させられる可能性があることを実証しました。

  • Claude CodeはOSレベルのサンドボックス(macOSではSeatbelt、Linuxではbubblewrap)を利用し、許可プロンプトを84%削減。
  • Claude Codeのオートモードは、実行前に過剰なエージェント動作の約83%を検知するように設計。
  • ユーザーの信頼境界を確立する前にプロジェクトローカル設定が解析されていた過去の脆弱性を開示。
  • 内部レッドチーム演習により、従業員がフィッシングでClaude Code経由でAWS認証情報を流出させられる可能性を実証。
  • Claude Coworkは、macOSではAppleのVirtualizationフレームワーク、WindowsではHCSを使用したフル仮想マシンアーキテクチャを採用。

Claude Codeをローカルで実行する開発者にとって、プロジェクトローカル設定の過去の脆弱性や、環境レイヤーでの封じ込めの重要性を強調する重要なセキュリティコンテキストを提供します。

SOURCES

9. Gradio 6.16.0リリース、セキュリティパッチとMCPアップデートを適用

Gradio 6.16.0がリリースされ、GRADIO_HEARTBEAT_INTERVAL環境変数による設定可能なハートビート機能が導入され、MCPエンドポイントがブラウザのランディングページを表示するように更新されました。このリリースでは、gr.FileExplorerにおけるパストラバーサル、OAuthにおけるオープンリダイレクトバイパス、Image、Gallery、AudioのポストプロセッシングにおけるSSRFに対する重要なセキュリティパッチが実装されています。また、DataframeとTabsのブラウザフリーズに関するバグ修正も含まれています。

  • gr.FileExplorerのパストラバーサルとOAuthのオープンリダイレクトバイパスを修正。
  • Image、Gallery、AudioのポストプロセッシングにおけるSSRFを修正。
  • GRADIO_HEARTBEAT_INTERVAL環境変数による設定可能なハートビートを導入。
  • ブラウザ経由でアクセスした際にランディングページを表示するようにMCPエンドポイントを更新。
  • DataframeとTabsのブラウザフリーズを修正。

Gradioを使用する開発者は、FileExplorerのパストラバーサルや画像/音声ポストプロセッシングのSSRFなどの脆弱性を修正するためにアップデートする必要があります。

SOURCES

10. NVIDIA、間接プロンプトインジェクションテスト用のエージェント安全データセットを公開

NVIDIAは、1,272件の合成レッドチーミング記録で構成されるエージェント安全データセットをHugging Faceで公開しました。このデータセットは9つの異なるエンタープライズドメインをカバーしており、ツールを使用するエージェントがツールから返されたデータ内に隠された間接的なプロンプトインジェクションに抵抗する能力をテストするように設計されています。

  • 1,272件の合成レッドチーミング記録で構成。
  • 9つの異なるエンタープライズドメインをカバー。
  • ツールから返されたデータ内に隠された間接的なプロンプトインジェクションへの耐性をテストするように設計。
  • Hugging Faceプラットフォームで公開。

開発者は、取得したデータに隠された間接的なプロンプトインジェクションに対して、ツールを使用するエージェントを評価し、強化するための具体的なデータセットを利用できます。

SOURCES

11. Higgs Audio v3 TTS 4B、多言語音声チャット向けにリリース

Higgs Audio v3 TTS 4Bは、音声チャットアプリケーション向けに特別に構築された音声合成モデルです。このモデルは100言語をサポートし、インライン制御をサポートしているため、開発者は非常にインタラクティブで多言語に対応した会話型オーディオインターフェースを構築できます。

  • 4Bパラメータの音声合成モデル。
  • 音声チャットアプリケーション向けに特別に構築。
  • 100言語をサポート。
  • インライン制御をサポート。

開発者は、リアルタイムの会話型オーディオインターフェースに最適化された、軽量で多言語対応のモデルを利用できます。

SOURCES

12. Alibaba、高速画像生成モデル「Qwen-Image-Flash」をリリース

Alibabaは、高速で高品質なテキストから画像への生成と、指示に基づいた編集のために設計されたモデル「Qwen-Image-Flash」をリリースしました。このモデルは、少ステップの蒸留、データ構成、教師ガイダンス、タスク混合を利用して、高いパフォーマンスと低レイテンシを実現しています。

  • 高速で高品質なテキストから画像への生成用に設計。
  • 指示に基づいた画像編集をサポート。
  • 少ステップの蒸留、データ構成、教師ガイダンス、タスク混合を利用。

画像生成および編集機能をアプリケーションに統合する開発者にとって、軽量で高速な選択肢を提供します。

SOURCES

13. SynthTraces、合成コーディングエージェントのセッショントレース生成ツールをローンチ

SynthTracesは、Piを使用して合成コーディングエージェントのセッショントレースを生成するために設計された新しい最小限のコードベースです。このプロジェクトでは、オープンソースのHugging Faceプロジェクトへの読み取りおよびbashアクセス権を持つコーディングエージェントとしてオープンモデルが機能し、llama.cppで実行される小さなローカルモデルがエージェントにプロンプトを出す人間ユーザーとして機能するハーネスを使用します。このプロジェクトは、LLMのトレーニングやファインチューニングのために、2,000件以上のセッショントレースを生成し、Hugging Faceで公開しています。

  • 合成コーディングエージェントのセッショントレースを生成するための最小限のコードベース。
  • 読み取りおよびbashアクセス権を持つコーディングエージェントとしてオープンモデルを使用。
  • 人間ユーザーとして機能するためにllama.cppで実行されるローカルモデルを使用。
  • Hugging Faceで公開された2,000件以上のPiセッショントレースを生成。

開発者は、独自のタスク固有のLLMやコーディングエージェントをトレーニングまたはファインチューニングするために、Hugging Face上の2,000件以上のセッショントレースデータセットを利用できます。

SOURCES

Inference Brewを受信箱へ

1日5分。無料、いつでも解除できます。

Inference Brewを受信箱へ

1日5分。無料、いつでも解除できます。