프로토콜 및 AI
AI·LLM 개발자 도구
LLM API 작업은 코드와 모델 사이의 형식을 디버깅하는 일입니다. 거부되는 구조화 출력 스키마, SSE로 파싱해야 할 스트림 응답, 한 줄이 깨져 전체를 실패시키는 JSONL, 한도 전에 알아야 할 토큰 수 같은 것입니다.
구조화 출력 스키마 검사는 요청 전에 스키마를 검증하고, SSE 이벤트 스트림 파싱과 JSONL 뷰어가 스트림과 파일 오류를 찾습니다. RAG 텍스트 청킹, 토큰 계산기, 코사인 유사도 계산기가 RAG 파이프라인을 돕습니다.
도구 7개
AI / LLM Dev Tools 도구 전체 보기
AI / LLM Dev Tools 도구 FAQ
OpenAI나 Gemini가 구조화 출력 스키마를 거부하는 이유는?
두 제공자는 JSON Schema의 일부만 서로 다르게 지원해, 한쪽에서 유효한 스키마가 다른 쪽에선 거부될 수 있습니다. 구조화 출력 스키마 검사가 두 제약에 맞춰 미리 검증해 줍니다.
LLM에 보내기 전에 프롬프트가 토큰을 몇 개 쓰는지 어떻게 아나요?
o200k_base와 cl100k_base는 텍스트를 다르게 나눠 같은 프롬프트도 모델군에 따라 토큰 수가 다릅니다. 토큰 계산기가 두 토크나이저로 계산하고 분할 지점을 보여줍니다.
RAG용으로 텍스트를 나눌 때 청크 크기는 얼마가 적당한가요?
정답은 없고 임베딩 모델의 컨텍스트 창과 필요한 주변 맥락에 달려 있습니다. RAG 텍스트 청킹이 글자 수·토큰 추정·제목 기준으로 나눠 전략을 비교하게 해 줍니다.