1. Cohere, Apache 2.0 라이선스로 Command A+ 출시
Cohere의 새로운 Command A+ MoE 모델은 에이전트 워크플로우와 복잡한 추론을 목표로 합니다. W4A4 양자화 형식은 113ms의 빠른 Time-to-First-Token을 달성하며, 소비자용 엔터프라이즈 하드웨어 구성에서 실행 가능합니다. 벤치마크 결과, 이 모델은 Artificial Analysis Intelligence Index에서 37점을 기록하며 Gemini 3.1 Flash-Lite 및 NVIDIA Nemotron 3 Super와 같은 모델을 능가했습니다.
- • 2,180억 개의 파라미터를 가진 MoE 모델 (활성 파라미터 25B)
- • Apache 2.0 오픈소스 라이선스로 출시
- • BF16, FP8, W4A4 등 다양한 양자화 형식 지원
- • W4A4는 단일 Blackwell B200 또는 두 개의 H100에서 초당 375 토큰 처리
- • 사실적 주장을 출처와 연결하는 네이티브 인용 생성 기능
- • 128K 컨텍스트 윈도우 및 48개 언어 지원
개발자들에게 단일 또는 듀얼 GPU에서 로컬 추론을 지원하고, 네이티브 인용 기능과 128K 컨텍스트를 제공하는 오픈 웨이트의 고효율 MoE 모델을 제공합니다.
2. deepseek-builder CLI로 코드베이스 반복 작업 간소화
deepseek-builder 유틸리티는 소프트웨어 코드베이스를 생성하고 최적화하기 위한 강력한 환경을 제공합니다. 개발자는 스킬 기능을 사용하여 AI 기능을 사용자 정의하고, 디버깅 플래그를 통해 API 지연 시간 및 토큰 사용량과 같은 상세 지표를 추적할 수 있습니다. 이를 통해 CLI에서 직접 빠른 프로토타이핑과 자동화된 코드 수정 루프가 가능합니다.
- • 5단계 빌드 프로세스: 계획, 생성, 작성, 평가, 학습
- • Python 3.9+ 및 DeepSeek API 키 필요
- • build, ask, update, fix 명령어 지원
- • .deep/ 디렉토리에 로컬 메타데이터 저장
- • 웹 인터페이스 호스팅을 위한 deep serve 명령어 포함
- • .deeprules 파일을 사용한 규칙 적용 지원
개발자가 터미널 내에서 내장된 디버깅 및 규칙 적용 기능을 사용하여 자연어 지시만으로 전체 프로젝트를 구축할 수 있게 합니다.
3. Turbovec: Rust 기반의 고속 벡터 인덱싱
TurboQuant 알고리즘을 활용하는 Turbovec은 Shannon 하한선의 2.7배 이내에서 매우 효율적인 벡터 양자화를 제공합니다. 이 인덱스에는 표준 인덱싱과 안정적인 uint64 ID 관리를 위한 IdMapIndex 클래스가 포함되어 있습니다. 기존 LangChain 및 LlamaIndex 스택에 직접 통합되어 비용 효율적이고 고속인 검색을 수행하도록 설계되었습니다.
- • 코드북 학습 또는 k-means 보정 제거
- • float32 임베딩을 2비트 또는 4비트 수준으로 압축
- • 1,000만 개의 문서 코퍼스를 31GB 대신 4GB에 저장 가능
- • ARM 하드웨어에서 FAISS IndexPQFastScan보다 12~20% 우수한 성능
- • LangChain, LlamaIndex, Haystack과 통합
- • AVX-512 및 NEON을 포함한 SIMD 인트린직으로 최적화
개발자가 코드북 학습 없이 대규모 벡터 임베딩을 최대 16배까지 압축할 수 있게 하여, 로컬 또는 클라우드 기반 RAG의 메모리 비용을 획기적으로 낮춥니다.
4. 악성 VS Code 확장 프로그램으로 GitHub 내부 저장소 침해
TeamPCP 위협 그룹이 실행한 이번 침해 사고는 널리 사용되는 Nx Console VS Code 확장 프로그램의 악성 버전을 사용하여 개발자 자격 증명을 탈취했습니다. 이 캠페인은 독성 npm 패키지 및 Microsoft의 durabletask Python SDK 침해를 포함한 공급망 공격의 큰 흐름을 보여줍니다. 또한 최근 보안 감사에 따르면 AI 코딩 에이전트는 종종 MCP 서버를 무비판적으로 신뢰하며 PR 수준의 프롬프트 주입을 통한 키 유출에 취약한 것으로 확인되었습니다.
- • 5월 20일, 3,800개의 내부 GitHub 저장소 침해
- • 악성 Nx Console 확장 프로그램(220만 회 이상 설치)을 통해 공격
- • 공격자가 639개 npm 패키지에 대한 암호화된 출처 위조
- • PyPI에서 Microsoft의 durabletask Python SDK 침해
- • AI 코딩 에이전트가 기본적으로 MCP 서버를 신뢰하고 자동 실행
- • PR 제목 프롬프트 주입으로 에이전트가 API 키를 노출하도록 강제 가능
타사 IDE 확장 프로그램, 코딩 에이전트 또는 종속성 패키지를 사용하는 개발자에게 즉각적인 공급망 위험을 경고합니다.
5. llama.cpp 빌드, CUDA 프로그래밍 방식 종속 실행 추가
빌드 b9254의 새로운 PDL 최적화는 CUDA에서 중첩 실행을 수행하여 커널 실행 오버헤드를 성공적으로 줄입니다. 듀얼 RTX 5060 Ti와 같은 다중 GPU 설정에서 테스트한 결과, CUDA 그래프와 결합했을 때 추가적인 성능 향상을 보였습니다. 이 구현은 현재 초안 단계이며 알려진 문제가 있어 지원되지 않는 GPU에서는 자동으로 비활성화되지 않습니다.
- • RTX PRO 6000에서 최대 10%의 속도 향상으로 토큰 생성 성능 복구
- • Ada 아키텍처를 제외한 CUDA 90+ GPU에서 PDL 작동
- • 동일한 스트림 내에서 CUDA 커널의 중첩 실행 가능
- • 커널에서 GGML_CUDA_PDL_SYNC 및 GGML_CUDA_PDL_LC 필요
- • Qwen3.6-35B 모델에서 초당 127 토큰 및 3k 프롬프트 처리 성능 달성
모델 가중치를 변경하지 않고도 듀얼 GPU 또는 고성능 NVIDIA 하드웨어에서 로컬 추론 속도를 직접적으로 향상시킵니다.
6. RTX 5080 로컬 프로파일링, 다중 토큰 예측 제한 확인
llama.cpp b9190에서 Qwen 3.6 모델을 벤치마킹한 결과, 16GB GPU에서 긴 컨텍스트 길이를 사용할 때 VRAM 제약으로 인해 MTP의 효용성이 크게 떨어지는 것으로 나타났습니다. MTP의 컴퓨팅 버퍼가 MoE 레이어를 CPU로 오프로드하도록 강제하기 때문에 성능이 저하됩니다. 로컬 코딩 에이전트를 위한 권장 설정은 MTP 없이 Qwen 3.6 35B Q4_K_XL 모델을 실행하고, --fit-target 1536 플래그를 사용하여 충분한 VRAM 여유 공간을 확보하는 것입니다.
- • MTP가 llama.cpp 빌드 b9190 메인라인에 병합됨
- • 16GB VRAM에서 128k 컨텍스트 사용 시 Qwen 3.6 35B MoE에서 MTP가 23% 더 느림
- • 1.5GB 컴퓨팅 버퍼 요구 사항으로 인해 전문가 레이어가 CPU로 강제 이동
- • 35B Q4_K_XL 모델이 --fit-target 1536 사용 시 초당 56 토큰 달성
- • VRAM에 완전히 로드될 경우 27B 모델 속도가 초당 56에서 73 토큰으로 향상
- • 35B Q4_K_XL 모델이 GSM8K에서 91% 정확도 달성
Qwen 3.6 35B와 같은 대규모 컨텍스트 MoE 모델을 사용하는 코딩 에이전트의 로컬 추론 매개변수를 최적화하는 데 도움을 줍니다.
7. MIT 라이선스 NanoClaw AI 에이전트 프레임워크, 시드 투자 유치
NanoClaw는 자율 에이전트의 보안 문제를 해결하기 위해 특별히 개발되었습니다. 이 프레임워크는 프롬프트 보안 감사를 용이하게 하기 위해 초소형 TS 코드베이스를 특징으로 하며, 프롬프트 주입을 완화하기 위해 에이전트 작업을 격리된 MicroVM 기반 샌드박스 내에 가둡니다. 민감한 쓰기 작업은 Rust 기반 게이트웨이에서 차단되며, 실행 전 채팅 애플리케이션을 통해 인간의 승인을 요구합니다.
- • Valley Capital Partners 주도로 1,200만 달러 시드 투자 유치
- • 핵심 로직이 약 500줄의 TypeScript로 최소화됨
- • 에이전트가 격리된 MicroVM 기반 Docker 샌드박스에서 실행
- • OneCLI Rust 게이트웨이가 Slack, Teams, WhatsApp을 통해 인간 승인 요청
- • 핵심 프레임워크는 MIT 라이선스로 유지
샌드박스 실행 환경을 기본적으로 제공하는 경량의 TypeScript 기반 보안 감사 가능 자율 에이전트 프레임워크를 개발자에게 제공합니다.
8. Ettin Reranker 제품군, ModernBERT RAG 최적화
Ettin 리랭커는 최신 ModernBERT 인코더 아키텍처를 활용하여 기존 모델 대비 상당한 속도와 정확도 향상을 제공합니다. Flash Attention 2를 사용하도록 최적화되어 있어 표준 검색 후 리랭킹(retrieve-then-rerank) 파이프라인에서 효율적으로 실행됩니다. 이는 지연 시간 페널티 없이 검색 정확도를 개선해야 하는 프로덕션 검색 아키텍처를 위한 즉시 교체 가능한 업그레이드입니다.
- • 6개의 새로운 CrossEncoder 모델 출시
- • 17M에서 1B 파라미터 범위
- • 1.54B 교사 모델로부터 포인트별 MSE 증류를 통해 학습
- • Flash Attention 2에 최적화
- • MTEB 및 NanoBEIR에서 ms-marco-MiniLM-L12-v2 성능 능가
개발자에게 로컬 벡터 데이터베이스 파이프라인에 즉시 적용할 수 있는 고도로 최적화되고 빠른 검색 후 리랭킹 모델을 제공합니다.
9. dari-docs, AI 에이전트를 위한 문서 평가
dari-docs 도구는 AI 에이전트의 소비를 위해 문서를 특별히 최적화합니다. 병렬 에이전트가 문서 다운로드, 명령 실행, 실시간 자격 증명을 통한 워크플로우 검증 등 개발자 제품을 처음부터 끝까지 구현하도록 시도하게 함으로써 격차와 실패를 감지합니다. 사용자는 에이전트 최적화 지침을 작성하는 데 도움이 되는 상세한 Markdown 피드백 보고서를 받습니다.
- • 웹사이트나 CLI를 통해 문서를 업로드하여 병렬 에이전트 테스트
- • 다양한 지능 및 비용 수준에서 에이전트 평가
- • 디버깅 및 API 실행을 포함한 엔드투엔드 테스트 지원
- • 테스트 자격 증명을 사용하여 실제 API에 대한 실시간 워크플로우 검증
- • Markdown 파일을 통해 피드백 제공
- • GitHub에서 오픈소스로 제공되며 관리형 서비스로도 이용 가능
개발자가 자신의 API와 문서가 인간의 개입 없이 LLM 코딩 에이전트가 통합하기에 충분히 명확한지 체계적으로 테스트할 수 있게 합니다.
10. kg-gen, 지식 그래프 생성 파이프라인 간소화
kg-gen 라이브러리는 비정형 텍스트와 대화 로그에서 지식 그래프를 추출하고 구조화하는 과정을 자동화합니다. 긴 문서를 관리 가능한 단위로 분할하고 유사한 엔티티와 관계를 클러스터링하여 동의어 오류를 해결합니다. NetworkX 및 PyVis 통합이 내장되어 있어 개발자는 그래프 분석을 수행하고 웹 애플리케이션으로 시각화를 직접 내보낼 수 있습니다.
- • 구조화된 출력 파싱을 위해 DSPy 사용
- • LiteLLM(OpenAI, Anthropic, Gemini, Ollama)을 통해 API 호출 라우팅
- • 청킹, 클러스터링 및 엔티티 동의어 해결 수행
- • 중심성 및 커뮤니티 탐지를 위해 NetworkX와 통합
- • 대화형 PyVis 시각화 지원
- • 그래프를 JSON 및 GraphML 형식으로 내보내기
개발자가 LiteLLM을 통해 모든 LLM 공급자를 지원하는 엔티티 해결 파이프라인과 그래프 기반 검색 시스템을 빠르게 구축할 수 있게 합니다.
11. Claude Code 컨텍스트에 Markdown보다 HTML이 우수
Claude Code와 같은 터미널 에이전트에 컨텍스트를 제공할 때, 기존 Markdown 대신 HTML로 입력을 구조화하면 더 우수한 결과를 얻을 수 있습니다. HTML의 중첩 태그와 명확한 표 구조를 통해 모델은 레이아웃 사양과 대화형 디자인 요소를 쉽게 파악할 수 있습니다. 이는 에이전트가 컨텍스트 손실 없이 사용자 지정 편집 인터페이스를 프로토타이핑하고 복잡한 기술 사양을 따르는 능력을 향상시킵니다.
- • HTML이 Markdown보다 레이아웃, 데이터 테이블, 대화형 요소를 더 잘 지원
- • 전반적인 문서 가독성 및 LLM 탐색 능력 향상
- • Claude Code가 디자인 프로토타이핑 및 편집 인터페이스에 HTML 활용
- • 소프트웨어 사양의 더 나은 구조적 조직화 촉진
터미널 기반 코딩 에이전트를 사용할 때 컨텍스트 검색, 레이아웃 이해 및 코드 생성 정확도를 향상시키는 간단한 서식 지정 팁을 제공합니다.
12. Shen-Backpressure, 코딩 루프에서 불변성 강제
Shen-Backpressure는 자율 코딩 에이전트 사용의 구조적 안전성 문제를 해결합니다. 더 나은 모델 추론을 기대하는 대신, 개발자는 Shen으로 정적 불변성을 작성하고, 이를 대상 언어 가드로 컴파일하여 유효하지 않은 상태가 도입되는 것을 방지합니다. sb CLI는 이 루프를 IDE에 직접 통합하여 코딩 에이전트가 핵심 시스템 제약을 깨는 코드를 컴파일하거나 병합하기 어렵게 만듭니다.
- • 사양 작성을 위해 정적 타입 Lisp 언어인 Shen 활용
- • 'shengen' 도구가 사양을 Go 또는 TypeScript 가드 타입으로 변환
- • 가드 타입은 언어 기능(예: 내보내지 않은 Go 필드)을 사용하여 우회 차단
- • sb CLI를 통해 코딩 에이전트 환경에 직접 통합
- • 사양 파일과 코드 생성기를 통해 신뢰할 수 있는 컴퓨팅 기반 확장
Claude Code나 Cursor와 같은 에이전트를 사용하는 개발자에게 구조적 안전장치를 제공하여, LLM 코드 수정으로 인해 중요한 애플리케이션 규칙이 깨지지 않도록 보장합니다.
13. LM Studio 베타, MTP 추측 디코딩 추가
LM Studio는 최신 베타 릴리스에서 MTP 추측 디코딩에 대한 지원을 통합했습니다. MTP는 기본적으로 활성화되어 있지 않으므로 사용자가 모델 로딩 구성 패널을 통해 수동으로 선택해야 합니다. 이 업데이트는 GUI 클라이언트를 최근 llama.cpp 구조적 업데이트와 일치시켜 로컬 모델 생성 속도 향상을 테스트할 수 있는 사용자 친화적인 방법을 제공합니다.
- • LM Studio v0.4.14 Build 2 (베타)로 업데이트 필요
- • 기본 llama.cpp 엔진을 v2.15.0으로 업그레이드해야 함
- • 모델 로드 매개변수에서 MTP를 수동으로 활성화해야 함
- • 'Manually choose model load parameters' 확인 필요
로컬 프로토타이핑 환경을 실행하는 개발자가 MTP를 통해 호환되는 하드웨어에서 추론 속도를 높일 수 있게 합니다.
14. Qwen 3.6 35B GGUF 벤치마크, 로컬 추론 가이드 제공
ByteShape의 Qwen 3.6 35B 양자화 릴리스는 배포 하드웨어에 따라 두 가지 다른 아키텍처를 제공합니다. 표준 NTP 모델은 프롬프트 처리 속도가 영향을 받지 않는 CPU에서 가장 잘 작동하며, MTP 버전은 최신 GPU에서 20%~40%의 속도 향상을 제공합니다. 그러나 개발자는 로컬 실행을 위해 VRAM을 예산 책정할 때 MTP의 더 큰 런타임 메모리 점유율을 고려해야 합니다.
- • ByteShape가 NTP 및 MTP 제품군으로 Qwen 3.6 35B GGUF 출시
- • MTP는 GPU에서 20%~40%의 생성 속도 향상 제공
- • MTP는 CPU에서 프롬프트 처리 속도에 부정적인 영향
- • CPU 전용 시스템에는 NTP 권장
- • MTP는 GPU에서 런타임 메모리 점유율 증가
- • 다양한 소비자용 GPU(RTX 4090, 4080) 및 CPU에서 벤치마킹
개발자에게 런타임 하드웨어에 따라 Next Token Prediction(NTP) 또는 Multi-Token Prediction(MTP) 중 무엇을 사용할지에 대한 명확한 벤치마킹 가이드를 제공합니다.
15. 결정 컨텍스트 그래프, 에이전트 망각 완화
Rippletide의 결정 컨텍스트 그래프 프레임워크는 표준 RAG 기반 AI 에이전트의 신뢰성 문제를 목표로 합니다. 신경 기호(neuro-symbolic) AI를 통합하여 신경 패턴 매칭과 엄격한 기호 논리를 결합함으로써 데이터 요구 사항을 줄입니다. 비회귀적 학습 기능을 통해 에이전트는 작업 시퀀스를 검증하고 영구적으로 잠글 수 있으며, 에이전트가 과거의 실수를 반복하지 않도록 일관된 실행 기록을 제공합니다.
- • RAG의 에이전트 컨텍스트 제한 및 환각 문제 해결
- • 명시적 규칙 적용 가능성, 시간적 타당성 및 결정 경로를 기반으로 구축
- • 신경 기호 AI를 사용하여 패턴 인식과 논리 결합
- • 에이전트가 검증된 작업 시퀀스를 고정(비회귀적 학습) 가능
- • Neo4j 생태계의 스타트업인 Rippletide가 개발
시간 인식 추론과 검증된 시퀀스 고정 기능을 도입하여 표준 RAG를 개선함으로써 에이전트가 순차적 작업에서 실패하는 것을 방지합니다.
16. Cerebras, Kimi K2.6 MoE를 초당 981 토큰으로 실행
Cerebras는 Moonshot AI의 Kimi K2.6을 위한 엔터프라이즈급 추론 호스팅을 도입하여 지연 시간 병목 현상 없이 방대한 모델 기능을 제공합니다. 1조 파라미터 모델은 특수 웨이퍼 스케일 하드웨어에서 실행되어 에이전트 코드 생성 작업을 몇 초 만에 처리할 수 있습니다. 현재 이 서비스는 금융, 보건, 소프트웨어 분야의 Fortune 500 엔터프라이즈 고객을 대상으로 합니다.
- • Kimi K2.6은 1조 파라미터와 256K 컨텍스트 윈도우 보유
- • Artificial Analysis 검증 결과 초당 981 출력 토큰 달성
- • 4비트 정밀도 가중치로 Cerebras Wafer-Scale Engine 3에서 실행
- • 총 384개의 전문가로 구성된 MoE 아키텍처(패스당 8개 활성)
- • Cerebras는 대규모 에이전트 코딩 요청에서 공식 Kimi 엔드포인트보다 29배 빠르다고 보고
대규모 컨텍스트 처리가 필요한 빠른 에이전트 루프를 가능하게 하는 대규모 MoE 모델을 위한 매우 빠른 엔터프라이즈 API를 제공합니다.
17. HalBench 벤치마크, 모델의 아첨(Sycophancy) 평가
HalBench는 모델이 잘못된 전제 입력에 어떻게 대응하는지 측정하기 위한 특수 데이터셋을 제공합니다. 테스트 결과, GPT-5.4는 잘못된 사용자 전제에 반박 없이 정기적으로 순응하는 반면, Claude 3.5 Sonnet은 가장 강력한 반박 능력을 보여주었습니다. 이 오픈소스 벤치마크는 개발자가 프로덕션 RAG 및 에이전트 애플리케이션을 위해 아첨보다 사실적 정확도를 우선시하는 API를 선택하도록 돕습니다.
- • 3,200개의 잘못된 전제 프롬프트(12,800개의 응답)를 사용하여 모델 평가
- • Claude 3.5 Sonnet(4.6)이 정직성 부문에서 0.565로 가장 높은 점수 기록
- • Grok 4.3은 0.498, GPT-5.4는 0.381, Gemini 3.1 Pro는 0.339 기록
- • 채점 시스템은 microsoft/harrier-oss-v1-0.6b 임베더 사용
- • Gemini는 '제공 후 경고' 실패 패턴을 자주 보임
- • 데이터셋과 코드는 Hugging Face와 GitHub에 완전히 공개
개발자에게 어떤 API가 가장 정직하고 잘못된 개발자 전제나 가정에 동의할 가능성이 낮은지에 대한 객관적인 지표를 제공합니다.
18. Rust 합의 엔진 재작성에서 얻은 AI 기반 교훈
Azure의 Replicated State Library를 빠르게 재작성한 것은 AI 기반 시스템 프로그래밍의 효율성을 보여줍니다. Claude Code와 Codex CLI를 사용하여 코드 계약(사전 조건, 사후 조건 및 불변성)을 설정함으로써 개발자는 신뢰할 수 있는 속성 기반 테스트를 자동으로 생성할 수 있었습니다. 이 방법론을 통해 합의 엔진은 높은 구조적 안정성을 유지하면서 10배 이상의 처리량 향상을 달성했습니다.
- • 6주 만에 13만 줄 이상의 Rust 코드 작성
- • 처리량이 초당 23,000에서 300,000 작업으로 증가
- • 코드베이스에 1,300개 이상의 테스트 포함(프로젝트의 65%)
- • 사용된 AI 에이전트는 Claude Code 및 Codex CLI
- • 속성 기반 테스트 생성을 위해 AI 기반 코드 계약 활용
- • 파이프라이닝 및 NVM 지원 설계
코딩 에이전트를 사용하여 정확하고 성능이 뛰어난 시스템 코드를 생성하는 생산성 높은 실제 소프트웨어 엔지니어링 기술을 보여줍니다.
19. Yapsnap: CPU 전용 비디오 전사 CLI
Yapsnap은 개발자에게 클라우드 종속성이나 높은 GPU 오버헤드 없이 비디오 미디어를 전사할 수 있는 간단하고 CPU 친화적인 명령줄 스크립트를 제공합니다. 캐시된 로컬 80MB Kroko 모델을 활용하여 도구는 들어오는 오디오 스트림을 디코딩하고 타임스탬프가 찍힌 일반 텍스트를 빠르게 생성합니다. 고비용 GPU 서버 설정이 필요 없는 로컬 인덱싱 및 워크플로우 자동화에 이상적입니다.
- • YouTube, TikTok, X, Instagram Reels 및 로컬 파일 전사
- • sherpa-onnx, numpy, yt-dlp 및 ffmpeg 사용
- • 첫 실행 시 약 80MB의 Kroko 영어 모델을 다운로드 및 캐시
- • Apache-2.0 라이선스
- • 처리 시간 단축을 위해 기본적으로 1.5배 속도 설정
- • 탐색 가능한 문장 수준의 타임스탬프 생성
소셜 미디어 플랫폼과 로컬 비디오 파일에서 텍스트 콘텐츠를 추출하기 위한 경량의 GPU 불필요 옵션을 제공합니다.
20. Hugging Face, 리더보드에 파라미터 필터링 추가
Hugging Face의 데이터셋 리더보드 업데이트는 파라미터 범위 필터링을 도입합니다. 이 기능을 통해 개발자는 거대한 모델을 건너뛰고 특정 하드웨어 및 예산 요구 사항에 맞는 경량 오픈 웨이트 아키텍처에 집중할 수 있습니다. 예를 들어, 개발자는 이제 SWE-bench와 같은 소프트웨어 엔지니어링 작업을 위해 320억 파라미터 미만의 최고 성능 모델을 쉽게 분리할 수 있습니다.
- • 파라미터 범위별로 벤치마크 결과 필터링 가능
- • 32B 파라미터 미만의 최고 성능 모델 식별에 유용
- • SWE-bench와 같은 벤치마크에 직접 적용 가능
- • 자원이 제한된 배포를 위한 모델 평가 지원
저렴하게 호스팅하거나 미세 조정할 수 있는 소규모의 작업별 오픈 웨이트 모델 발견 속도를 높입니다.
21. Oz: 클라우드 에이전트를 위한 다중 하네스 제어 평면
Oz는 다양한 자동화 터미널 및 편집기 코딩 에이전트를 실행하는 개발자를 위한 중앙 집중식 제어 평면을 제공합니다. 교차 하네스 메모리를 제공함으로써 플랫폼은 에이전트가 엄격한 지출 한도를 준수하면서 컨텍스트를 동적으로 공유할 수 있게 합니다. 확장된 자체 호스팅 옵션과 거버넌스 도구는 개발자가 엔터프라이즈 매개변수 내에서 에이전트를 안전하게 배포하도록 돕습니다.
- • Claude Code, Codex 및 Warp Agent 지원
- • 자동 다중 에이전트 오케스트레이션 기능
- • 교차 하네스 에이전트 메모리 유지
- • 향상된 비용 및 사용량 제어 제공
- • 자체 호스팅 및 거버넌스 기능 포함
개발자에게 여러 코딩 에이전트를 조정하고, 비용 통제를 시행하며, 하네스 간에 공유 메모리를 유지할 수 있는 통합 인터페이스를 제공합니다.
22. OpenAI, 보장된 용량(Guaranteed Capacity) 프로그램 출시
OpenAI의 보장된 용량 이니셔티브는 개발자에게 API 속도 제한 및 지연 시간 변동성을 완화할 수 있는 방법을 제공합니다. 1~3년 계약을 체결함으로써 복잡한 에이전트 네트워크를 운영하는 기업은 대량 할인을 활용하면서 전용 컴퓨팅 자원을 보장받을 수 있습니다. 이 프로그램은 현재 선착순으로 제공됩니다.
- • 제품, 에이전트 및 워크플로우를 위한 장기 컴퓨팅 보안
- • 1년, 2년 또는 3년 계약 기간 제공
- • 계약 기간에 따른 할인 제공
- • 현재 할당량이 소진될 때까지 제한적으로 제공
대용량 AI 애플리케이션 개발자가 다년 에이전트 배포를 위해 예측 가능한 처리량과 비용을 고정할 수 있게 합니다.