# Fine-Grained Tool Calling: 도구 인자 스트리밍의 검증을 끄고 진짜 실시간성을 얻는 법
Fine-Grained Tool Calling: 도구 인자 스트리밍의 검증을 끄고 진짜 실시간성을 얻는 법지난 글까지 우리는 도구 호출의 결과 를 받는 데 집중했어요. 그런데 도구를 호출할 때 인자(arguments) 자체가 점진적으로 만들어지는 과정 도 스트리밍할 수 있다는 사실, 알고 계셨나요?기본 설정에서는 Anthropic API가 JSON 검증 을 위해 인자 청크를 잠깐 버퍼링한 뒤 한꺼번에 보냅니다. UX 적으로는 "스트리밍이 켜졌는데 왜 텀이 있지?" 처럼 보이기도 해요. 이걸 끄고 진짜 토큰 단위로 즉시 받는 옵션이 바로 Fine-Grained Tool Calling 입니다.오늘은 InputJsonEvent 의 두 필드(partial_json / snapshot), API의 기본 버퍼링 메..
AI
2026. 5. 17. 21:20
