Spice 2.0은 고처리량 CDC 복제, Apache Ballista 기반 분산 쿼리, Cayenne 가속 엔진, Kubernetes Operator, 엔터프라이즈 보안 제어를 통해 ETL 없이 운영 데이터에서 실시간 분석과 검색을 가능하게 합니다.
AI 에이전트가 실시간 데이터를 필요로 하면서 운영 데이터베이스에 새롭고 더 까다로운 분석 워크로드를 만들어내고 있습니다.
하지만 MySQL, PostgreSQL, MongoDB 같은 저장소에서의 분석 쿼리는 무거운 실행, 복잡한 RLS 정책, 데이터 유출 위험으로 인해 핵심 운영을 방해할 수 있습니다. 운영 시스템에서 분석 시스템으로 데이터를 복사하는 ETL 파이프라인은 비싸고 운영 비용도 높으며 실시간도 아닙니다. 보통 데이터가 몇 시간, 심지어 며칠까지도 오래된 상태로 남게 됩니다.
Spice 2.0을 사용하면 조직은 고처리량 복제를 이용해 몇 분 만에 운영 데이터베이스 옆에 샌드박스형 분석 복제본을 추가하고, 1초 미만 쿼리와 실시간 수준의 최신성을 얻을 수 있습니다.
그리고 데이터가 단일 노드의 한계를 넘어설 때에도 안심하고 페타바이트 규모 컴퓨트를 배포할 수 있습니다. Apache Ballista를 기반으로 구축된 멀티 노드, 멀티 액티브, 고가용성 분산 쿼리가 이제 정식 출시되었습니다.
고처리량 Change-Data-Capture (CDC) 복제. 고성능의 분석 준비형 복제본을 운영 중인 데이터베이스에 바로 붙이세요. Spice는 파이프라인이나 프로덕션 쿼리 부하 없이 PostgreSQL WAL, MySQL binlog, MongoDB oplog에서 직접 복제합니다. 점진적으로 도입할 수 있습니다. 단일 테이블에서 시작해 몇 분 안에 운영 데이터에 대한 분석 쿼리를 실행할 수 있으며, 지속적인 수집 상황에서도 종단 간 최신성은 2초입니다. v2.1은 메모리 내 CDC 계층과 전용 컴팩션 런타임을 추가해 대용량 워크로드의 복제 지연을 줄였고, changes 모드 데이터셋 간 PostgreSQL 복제 슬롯 공유도 지원합니다.
멀티 노드 분산 컴퓨트. Apache Ballista를 기반으로 한 페타바이트 규모 컴퓨트가 이제 정식 출시되었습니다. 오브젝트 스토어 네이티브이며 고가용성을 갖추고, 멀티 액티브 스케줄러와 단일 장애 지점 없는 구조를 제공합니다. 세 개의 executor는 TPC-H SF100에서 단일 노드보다 2.9배 더 빠르게 실행됩니다. v2.1은 Iceberg 카탈로그 테이블 스캔을 분산하고 작은 차원 테이블에 broadcast join을 적용하며, 공유 스케줄러 작업 상태와 장애 조치를 추가합니다.
Spice Cayenne. Vortex를 기반으로 구축된 대표적인 Spice 가속 엔진이 이제 정식 출시되었습니다. DuckDB보다 1.5배 빠르고 정상 상태 메모리는 3배 덜 사용하며, TPC-DS SF100에서는 Spice 1.x보다 26배 빠릅니다. 이제 원자적 WAL 단계적 쓰기, 고처리량 수집, MERGE INTO, SQL 정의 파티셔닝도 지원합니다. v2.1은 하드웨어, 스키마, 실제 워크로드에 맞게 Cayenne을 조정하는 실험적 적응형 자동 튜닝을 추가합니다.
Spice Kubernetes Operator. 블루/그린 배포, 즉시 롤백, 데이터 인지형 라우팅을 포함하여 Kubernetes에서 대규모 Spice 운영을 위한 전체 수명주기 관리와 제어를 제공합니다.
엔터프라이즈 보안 및 정책. OIDC 인증, Cedar 정책 엔진, PII 마스킹, mTLS를 제공하며, 모두 데이터가 에이전트에 도달하기 전에 강제 적용됩니다.
그 외 더 많은 기능! 검색 가능한 Tool Registry, SQL 및 WASM 사용자 정의 함수(UDF), DataFusion v54, Elasticsearch와 Azure Cosmos DB를 포함한 새로운 데이터 커넥터가 포함됩니다.
벤치마크: TPC-H SF100에서 Spice 1.x보다 1.5 - 1.8배 빠르고 메모리는 최대 42% 적게 사용 · Cayenne으로 TPC-DS SF100에서 26배 빠름 · 1.x보다 CDC 수집이 약 170배 빠름 · 단일 노드에서 3개 노드로 분산 쿼리가 2.9배 빨라짐 · CDC 최신성 2초 · 266,000+ tpmC의 실시간 트랜잭션 부하 하에서 SF1000의 CH-BenCHmark 분석 1,046 QPH - 전체 결과는 아래를 확인하세요.
Spice Cloud에서 관리형 클러스터를 시작하거나 Spice 2.0 OSS를 사용해 보세요.
Spice 1.0-Stable은 2025년 1월, AI 에이전트가 엔터프라이즈 데이터에 기반하도록 하기 위해 에이전트 중심 워크로드용으로 설계되어 출시되었습니다. Spice 1.0은 AI 앱의 핵심 구성 요소를 하나의 런타임으로 패키징했습니다. 페더레이션 및 가속, 하이브리드 검색, 통합된 LLM 추론을 모두 하나의 SQL 엔드포인트로 제공했습니다. Rust로 작성되고 Apache DataFusion 위에 구축된 이 경량 140MB 단일 노드 엔진은 실시간 운영 데이터에 대한 빠르고 낮은 지연 시간의 읽기에 뛰어났으며, Barracuda는 이를 전 세계 규모의 프로덕션에서 운영하고 있습니다.
그림 1: Spice 플랫폼과 기능.
하지만 엔터프라이즈 에이전트가 배포되면서 더 많은 것이 요구되었습니다.
최신성. 오래된 데이터에 기반해 동작하는 에이전트가 잘못된 답변을 생성하거나 의사결정 입력을 잘못 제공하면 비즈니스에 치명적일 수 있습니다.
규모. 모든 관련 맥락이 없는 에이전트는 지식의 공백을 가질 수밖에 없습니다. 에이전트는 실시간 데이터와 수 테라바이트에서 페타바이트 규모의 과거 데이터셋을 모두 가로질러 쿼리하고 검색해야 합니다.
엔터프라이즈 제어. 엔터프라이즈 에이전트는 고가용성 배포, 안전한 mTLS와 OIDC 인증, RBAC 및 ABAC 권한 부여, 그리고 정책으로 정의된 행 및 열 수준 필터링과 PII 마스킹을 요구합니다.
Spice 2.0 플랫폼은 실시간 단일 자릿수 초 단위의 데이터 최신성, 페타바이트 규모의 쿼리와 검색, 그리고 엔터프라이즈급 운영 및 제어를 모두 제공합니다.
이제 고처리량 CDC 복제를 통해 ETL 없이 운영 데이터에 분석 쿼리와 검색을 추가할 수 있습니다. Apache Ballista 기반 멀티 노드 분산 컴퓨트로 페타바이트를 쿼리하고, 새로운 Spice Kubernetes Operator와 엔터프라이즈 제어 기능으로 엔터프라이즈 규모 배포를 수행할 수 있습니다.
이 모든 것은 Arrow, Iceberg, Delta, Parquet, Vortex에 대한 완전한 지원을 포함한 개방형 표준 위에 Rust로 작성된 오픈소스 Spice 엔진 위에서 계속 구축되었습니다.
지금 바로 운영 데이터에 Spice를 추가하세요!
Spice 2.0 수치는 릴리스 후보 빌드에서 측정되었고, Spice 1.x 수치는 최종 1.x 릴리스(v1.11.6)에서 측정되었습니다. 전체적으로 동일한 하네스, 하드웨어, 벤치마크 사양을 사용했습니다. 클러스터 벤치마크는 AWS의 i3.4xlarge 노드(16 vCPU, 122 GB RAM)에서 실행되었고, 단일 노드 벤치마크는 256 GB 메모리 제한 하에서 실행되었습니다.
CH-BenCHmark는 고전적인 HTAP(하이브리드 트랜잭션/분석 처리) 벤치마크입니다. 동일한 데이터에 대해 TPC-C 트랜잭션 워크로드와 TPC-H 스타일 분석 쿼리를 동시에 실행합니다. TPC-H 같은 벤치마크는 정지 상태 데이터에 대한 분석을 측정하지만, CH-BenCHmark는 Spice 2.0이 구축된 바로 그 시나리오, 즉 트랜잭션이 그 아래 데이터를 계속 바꾸는 동안에도 빠르고 정확하게 유지되는 분석 쿼리를 측정합니다.
벤치마크 구성은 2.0 아키텍처를 종단 간으로 그대로 반영합니다. PostgreSQL이 TPC-C 트랜잭션 워크로드를 처리하고, 단일 Spice 노드가 CDC를 통해 커밋된 변경 사항을 Cayenne 가속으로 복제하며, 분석 쿼리는 Spice 복제본에서 실행됩니다. 프로덕션은 분석 부하를 전혀 받지 않습니다. 스케일 팩터 1000: 1,000개 창고와 3억+ 행, 단일 64코어 노드에서 600초 측정 구간으로 수행했습니다.
| 지표 | 결과 |
|---|---|
소스 부트스트랩 (3억 행 order_line) | 약 9분의 네이티브 PostgreSQL 논리 복제 - 초당 약 566K 행 |
| Spice 1.x 대비 부트스트랩 수집 속도 | 약 170배 더 빠름 - 1.x의 Debezium 기반 경로 대비 |
| 트랜잭션 처리량 (PostgreSQL) | 266,861 tpmC - 노드당 약 10분 동안 609만 트랜잭션 |
| 수집과 동시 실행되는 분석 처리량 | 1,046 QPH 노드당 |
PostgreSQL은 전체 구간 동안 초당 약 10,000 트랜잭션을 유지했고, Spice는 전체 분석 워크로드를 복제본에서 제공했습니다.
Spicebench는 TPC-H SF10에서 전체 운영 루프를 측정합니다. 지속적인 수집, 동시 쿼리 부하, 그리고 쿼리가 정확히 올바른 결과를 반환할 때까지의 체크포인트 검증을 포함합니다. 종단 간 최신성, 즉 수집부터 정확히 올바른 결과까지의 시간은 두 모드 모두 한 자릿수 초입니다. CDC(삽입 + 업데이트 + 삭제)는 2.0초, append 스트림은 7초입니다.
| 벤치마크 · 가속 엔진 | Spice 1.x | Spice 2.0 | Spice 2.0은 |
|---|---|---|---|
| TPC-H SF100 · DuckDB | 253.0 s | 138.3 s | 1.8배 빠름 |
| TPC-H SF100 · Cayenne | 133.6 s | 88.3 s | 1.5배 빠름 |
| TPC-DS SF100 · DuckDB | 108.6 s | 93.9 s | 16% 빠름 |
| TPC-DS SF100 · Cayenne | 4,196 s | 157.6 s | 26배 빠름 |
| 최대 메모리 · TPC-H SF100 · DuckDB | 70.7 GB | 40.7 GB | 42% 적음 |
가속 엔진:
벤치마크:
지속 시간은 전체 쿼리 스위트의 실제 경과 시간입니다. 26배 TPC-DS 결과는 반올림이 아닙니다. 1.x에서 65분 걸리던 병목성 조인 쿼리가 2.0에서는 5.3초 만에 완료됩니다. 그리고 Cayenne을 사용한 Spice 2.0 - TPC-H SF100에서 88.3 s - 은 전체 출시 벤치마크 매트릭스에서 가장 빠른 구성입니다.
동일한 소스에 대해 로컬 가속 없이 페더레이션된 S3 Parquet에 직접 실행한 TPC-H SF100을 기준으로, 단일 노드와 3-executor Ballista 클러스터를 비교했습니다.
| 구성 | 쿼리 스위트 시간 | 가장 적합한 용도 |
|---|---|---|
| 단일 노드, 페더레이션된 S3 Parquet | 2,741 s (45.7분) | 로컬 가속 없는 기준선 |
| 3-executor Ballista 클러스터 | 935 s (15.6분) - 2.9배 빠름 | 로컬에 맞지 않는 데이터에 대한 분산 |
| 단일 노드, 로컬 Cayenne 가속 | 88 s - 31.1배 빠름 | 로컬에 맞는 작업 집합에 대한 가속 |
워크로드는 TPC-H, TPC-DS, CH-BenCHmark, ClickBench 사양에서 파생되었으며, 결과는 감사된 TPC 결과가 아닙니다.
Barracuda와 Summation 팀이 2.0으로 워크로드를 마이그레이션한 경험에 대해 이렇게 말했습니다.
Barracuda는 쿼리가 느리고 비용이 많이 들던 이메일 아카이빙 및 감사 로그 시스템의 데이터 접근을 현대화하기 위해 Spice를 사용합니다. Spice 이전에는 검색 대상 데이터 양이 많아 고객이 이메일 아카이브를 검색할 때 최대 2분까지 지연을 겪었습니다. 2.0에서는 Barracuda가 DuckDB에서 Spice Cayenne 가속으로 마이그레이션하여 더 큰 규모에서 더 빠른 쿼리와 더 낮은 메모리 사용을 실현했습니다.
Kevin Haggard
엔지니어링 부사장
Summation은 재무 및 운영 데이터를 하나의 거버넌스된 모델로 통합하는 AI 기반 의사결정 플랫폼입니다. 각 고객이 서로 다른 스택을 운영하기 때문에 Summation 플랫폼은 이질적인 엔터프라이즈 데이터 소스를 쉽게 온보딩하고 쿼리할 수 있어야 합니다.
Ramachandra Ramarathinam
CTO
그림 2: 에이전트 네이티브 CDC 복제.
Spice 2.0은 1급 CDC 복제를 도입하여, 파이프라인을 구축하지 않고도 실시간 운영 데이터를 쿼리하기 위한 분석 노드로 Spice를 추가할 수 있게 합니다. Spice를 운영 데이터베이스에 연결하면 프로덕션에 쿼리 부하를 주지 않고 변경 사항을 복제합니다. 점진적으로 도입 가능하고 조합 가능합니다. 하나의 저장소나 테이블에서 시작해 변경 사항을 Spice 데이터셋으로 복제하고, 그 사이에서 조인까지 실행할 수 있습니다.
Spice는 두 가지 복제 모드를 지원합니다.
Spice는 Debezium이나 외부 스트리밍 계층을 요구하지 않는 네이티브 복제를 제공합니다. 네이티브 지원에는 자동 슬롯 관리와 부트스트랩 스냅샷을 포함한 PostgreSQL WAL 논리 복제, MySQL binlog 복제, MongoDB Streams oplog, DynamoDB Streams가 포함됩니다. Debezium 지원도 개선되었으며, 추가 네이티브 소스도 로드맵에 포함되어 있습니다.
네이티브 복제는 부트스트랩을 빠르게 만드는 핵심이기도 합니다. CH-BenCHmark SF1000에서 Spice는 3억 행 PostgreSQL 테이블을 약 9분 만에 초당 약 566K 행 속도로 스냅샷했습니다. 이는 1.x의 Debezium 기반 경로 수집 속도보다 약 170배 빠릅니다.
그림 3: Spice 2.0의 멀티 노드 분산 클러스터 역할.
2.0은 페타바이트 규모의 고가용성 멀티 노드 컴퓨트를 정식 출시합니다. Apache Ballista로 구동되며, executor 노드 플릿 전체에 걸쳐 스캔, 조인, 집계, LLM 추론을 분산합니다.
멀티 노드 분산 쿼리는 두 가지 모드를 지원합니다. 빠르고 낮은 지연 시간의 쿼리가 필요한 대화형 워크플로를 위한 동기 쿼리와, 장시간 실행 분석 및 배치 작업을 위한 비동기 쿼리입니다. 스케줄러는 executor가 클러스터에 합류하거나 이탈함에 따라 작업을 동적으로 분배하고, 파티션 인지형 쿼리를 적절한 executor로 라우팅하며, NDV 인지형 테이블 통계를 사용해 큰 semi-join이 메모리 부족 없이 올바르게 크기 조정되도록 합니다.
Spice Distributed Query는 다음을 지원합니다.
Spice를 사용하면 분산 컴퓨트, 로컬 가속, 하이브리드 검색, AI 추론을 하나의 오브젝트 스토어 네이티브 플랫폼에서 얻을 수 있습니다. JVM도 없고 Zookeeper도 없습니다. 고성능 Rust 런타임과 오브젝트 스토어만 있으면 됩니다.
Phillip이 1억 행 데이터셋을 쿼리하면서 단일 노드에서 22초 걸리던 쿼리를 Cayenne 가속이 적용된 멀티 노드 Spice 클러스터 전체로 확장해 2.4초로 줄이는 라이브 데모를 확인해 보세요.
그림 4: 규모와 지역성을 위한 클러스터-사이드카 아키텍처.
새로운 멀티 클러스터 지원은 워크로드 최적화 아키텍처를 가능하게 합니다. 클러스터-사이드카 아키텍처는 규모를 위한 Spice 멀티 노드 클러스터와 지역성을 위한 경량 사이드카를 결합하여, 에이전트 중심 워크로드가 핫 데이터에 대한 빠르고 낮은 지연 시간의 쿼리와 페타바이트 규모 데이터 레이크 전반에 대한 빠른 분산 쿼리를 모두 얻을 수 있게 합니다.
이 패턴에서는 단일 노드 Spice 인스턴스가 애플리케이션과 함께 같은 위치에서 실행되며, 해당 애플리케이션이나 AI 에이전트가 필요로 하는 작업 집합만 구체화합니다. 사이드카가 로컬 작업 집합을 넘어서는 범위에 접근하거나 무거운 장시간 실행 쿼리를 수행해야 할 때는 클러스터에 위임합니다.
이 계층들은 단순히 쌓이는 것이 아니라 협력합니다. 멀티 노드 클러스터는 수집, 복제, 공유 가속을 담당하고, 각 사이드카는 자신의 에이전트나 대시보드에 맞게 가볍고 특화된 상태를 유지하며 필요한 작업 집합을 제공하고 캐시합니다.
사이드카는 작업 데이터의 물리적으로 격리된 샌드박스 역할을 하고, Spice는 프로덕션 데이터베이스 대신 클러스터 복제본으로 데이터 갱신과 쿼리 위임을 관리하므로 분석 쿼리와 에이전트가 운영 워크로드와 경쟁하지 않습니다.
그림 5: Spice Cayenne 아키텍처.
Spice Cayenne는 v1.9에서 Spice의 차세대 데이터 가속기로 미리보기 형태로 소개되었으며, 2.0에서 정식 출시됩니다.
이것은 Vortex를 기반으로 구축되었습니다. Vortex는 에이전트의 접근 패턴, 즉 랜덤 액세스, 포인트 조회, 동시 리더, 스트리밍 업데이트를 위해 설계된 오픈소스 컬럼 형식입니다(Linux Foundation, Apache 라이선스). 이는 배치 분석에 초점을 맞춘 Parquet와는 다릅니다. Cayenne은 Vortex 데이터 계층과 임베디드 메타데이터 엔진을 결합하여 DuckDB보다 훨씬 낮은 메모리 요구량으로 테라바이트 규모 워크로드를 지원합니다.
2.0에서 Cayenne은 append 최적화 위주의 초기 릴리스를 넘어, 쓰기, 변경, 삭제의 고처리량 수집을 이제 지원합니다. 쓰기는 write-ahead log를 통해 단계적으로 처리되며 완전한 ACID 의미론으로 원자적으로 커밋됩니다. 작은 쓰기는 저지연 인라인/메모리 계층이 흡수하며 즉시 쿼리할 수 있습니다.
CDC의 경우, 키를 직접 식별하는 기본 키 DELETE는 테이블 스캔을 건너뛰고, 업데이트는 테이블을 다시 쓰는 대신 merge-on-read 위치 삭제를 사용하며, 전용 컴팩션 런타임은 이 백그라운드 작업이 쿼리와 수집을 방해하지 않도록 유지합니다. MERGE INTO와 SQL 정의형(PARTITION BY) 및 복합 파티셔닝이 SQL 표면을 완성합니다.
프로덕션 특성:
Spice Kubernetes Operator v1.0이 이제 엔터프라이즈 고객에게 정식 출시되었습니다. 이는 클라우드 또는 온프레미스에서 Kubernetes 상의 대규모 Spice 운영을 위한 전체 데이터 인지형 배포 수명주기를 관리합니다.
멀티 노드 클러스터와 단일 노드 배포를 지원하는 두 개의 Custom Resource Definition(CRD)이 포함됩니다. SpicepodCluster CRD는 scheduler 및 executor 노드, mTLS 인증서 프로비저닝, 롤링 업그레이드, 자동 장애 조치를 관리합니다. SpicepodSet CRD는 단일 노드 배포와 사이드카를 관리합니다. annotation을 통해 애플리케이션 pod에 Spice 인스턴스를 주입하고, 수평 확장을 수행하며, 필요 시 영구 스토리지를 처리합니다.
프로덕션 특성:
Spice 2.0은 엔터프라이즈와 새로운 에이전트 중심 워크로드가 요구하는 보안과 제어 기능을 포함합니다.
Spice 플랫폼은 mTLS, OIDC 인증, RBAC 및 ABAC 권한 부여를 기본 적용하는 secure-by-default 설계를 따릅니다. 에이전트 작업 데이터 집합은 선언적으로 정의되므로, 각 샌드박스 Spice 인스턴스에는 특정 에이전트가 접근해야 하는 데이터만 프로비저닝됩니다. 행 및 열 수준까지의 세밀한 정책은 Cedar 정책 엔진으로 정의하고 강제할 수 있으며, 특히 특정 데이터에 LLM 도구나 UDF가 접근할 수 있는 범위를 정의하는 데 유용합니다. Cedar 정책은 핵심 DataFusion 쿼리 엔진에 통합되어 적용되며, SQL을 통해 우회할 수 없습니다.
current_principal() 같은 함수로 평가하여 principal별 행 수준 필터링과 열 마스킹을 수행하므로, 에이전트나 도구는 쿼리가 어떻게 작성되었는지와 관계없이 자신의 식별자에 허가된 행과 열만 볼 수 있습니다.Spice Cloud는 관리형 Spice 서비스로, 고가용성 분산 쿼리, Cayenne 가속, 검색, AI 추론을 포함한 클라우드 호스팅 멀티 노드 Spice 클러스터를 운영해 줍니다.
하이브리드 클러스터-사이드카 배포에서는 Spice Cloud가 멀티 노드 클러스터를 관리하고, 애플리케이션 sidecar는 사용자의 자체 환경에서 애플리케이션 및 에이전트와 함께 실행될 수 있습니다. 무거운 컴퓨트는 완전 관리형 인프라에 위임됩니다. 지연 시간에 민감한 sidecar 인스턴스는 애플리케이션과 에이전트가 위치한 곳, 즉 Kubernetes 클러스터, VPC, 온프레미스 데이터센터, 엣지 등 어디에서든 실행되며, mTLS를 통해 1초 미만 지연으로 핫 데이터를 로컬에서 제공합니다.
우리는 이미 Spice의 다음 장을 준비하고 있습니다. BYOC(bring-your-own-cloud), 멀티 노드 클러스터 전반의 분산 검색, 전체 DML을 갖춘 write-back 가속, Iceberg-REST 호환 Cayenne Catalog, webhook과 이벤트 기반 액션, 그리고 더 많은 기능입니다. 로드맵은 공개되어 있으며 커뮤니티 중심으로 운영됩니다.
앱과 에이전트가 실시간 운영 데이터, 분석 데이터, 스트리밍 데이터, 서비스 데이터를 요구함에 따라 데이터 인프라에 대한 요구는 계속 커지고 있습니다. 2021년 창업부터 앞으로의 미래까지, 우리는 차세대 지능형 AI 기반 앱과 에이전트를 구동하는 최고의 데이터 플랫폼으로 Spice를 구축하고 있습니다.
운영 데이터에 Spice를 추가하세요. ETL 없는 분석 쿼리. 오픈소스이며, 이식 가능하고, 확장 가능하며, 빠릅니다. Spice 2.0에 오신 것을 환영합니다.
프로덕션 환경에서 AI 에이전트를 위한 데이터 인프라를 평가하고 있는 아키텍트 또는 기술 리더라면, 저희와 이야기 나누고 싶습니다. hey@spice.ai로 연락하실 때 이 게시물을 언급해 주세요. 처음 15개 팀에는 저희 엔지니어링 팀과 함께하는 전용 아키텍처 워크숍을 제공합니다.
프로덕션으로 가는 가장 빠른 길은 Spice Cloud입니다. 그리고 자신의 조건에 맞게 시작할 수 있는 여러 옵션도 있습니다.
tool_search 및 tool_invoke 메타 도구로 대체하여, 대규모 도구 집합에서 턴당 도구 정의 토큰을 대략 10배 줄입니다.전체 목록은 릴리스 노트에서 확인하세요.