반복되는 긴 시스템 프롬프트
기존: 매 요청마다 전체 입력 토큰을 다시 결제
AISELECTOR: 안정 프리픽스를 캐시하고 읽기/쓰기 비용을 따로 계측
실제 캐시 히트와 절감액을 원장에서 확인
AISELECTOR vs OpenRouter
같은 통합 API, 다른 비용 판단
OpenRouter의 공개 기능을 기준선으로 삼되, 구현되지 않은 기능을 완료라고 표시하지 않습니다. AISELECTOR는 모델 수만 늘리는 데서 멈추지 않고 어떤 업무를 어느 모델·지갑·캐시 경로로 보낼지 판단하고 실제 원가를 남깁니다.
기능 대조표
상태는 현재 코드 배선 기준이며 기능 출시와 함께 갱신합니다.
| 기능 | OpenRouter | AISELECTOR | 상태 |
|---|---|---|---|
| OpenAI 호환 채팅·스트리밍 | 지원 | 지원 | 제공 중 |
| 모델 카탈로그 API | 400+ 모델·필터·정렬 | 검증된 모델·가격·등급 API | 일부 제공 |
| 자동 모델 선택 | Auto Router | 원가·품질·지연·기능 프로파일 라우팅+ 업무별 품질 하한과 예상 캐시 효과까지 선택 조건에 반영 | 제공 중 |
| 폴백·공급자 라우팅 | 공급자 순서·폴백·ZDR 정책 | 재시도·동급 폴백·서킷브레이커·지갑 상태 격리+ 고장 난 키와 관리형 지갑을 서로 오염시키지 않음 | 일부 제공 |
| BYOK | 지원 | AES-256-GCM 암호화·엄격 격리·마크업 0+ BYOK 요청이 관리형 키로 조용히 넘어가지 않는 fail-closed 설계 | 제공 중 |
| 사용량·크레딧·키 관리 | 활동·크레딧·Management API | 호출별 원가·선불 원장·키별 한도·발급/폐기+ 입력·출력뿐 아니라 캐시 읽기/쓰기 원가를 분리 계측 | 일부 제공 |
| 구조화 출력·도구 호출 | JSON Schema·function tools | 프로바이더별 규격 변환·지원 모델 fail-closed | 제공 중 |
| 프롬프트 캐시 | 공급자 캐시·sticky routing | 안정 프리픽스 경계·5분/1시간 쓰기 원가·히트 실측+ 캐시를 켰다는 주장보다 실제 절감액을 호출별로 기록 | 제공 중 |
| 웹검색·인용 | 네이티브/Exa/Firecrawl 등 | Perplexity 검색 모델·표준 citations | 일부 제공 |
| PDF 입력·파싱 | URL/base64·파서 선택 | URL/data URL PDF 전달·크기/프로토콜 검증 | 제공 중 |
| 이미지·음성·영상 | 멀티모달 입력·이미지/TTS/STT | 입력 전달 + BYOK 이미지 생성/TTS/STT 제공 | 일부 제공 |
| 임베딩 | /embeddings | 1536차원 /embeddings·Gemini/OpenAI 폴백·원가 계측 | 제공 중 |
| 응답 캐시·JSON 복구·컨텍스트 압축 | 캐시·Response Healing·Middle-out | 명시적 JSON 응답 복구 제공·캐시/압축 확장 예정 | 일부 제공 |
| 프리셋·Responses·Batch | 지원 | Responses 스트리밍·최대 20건 동기 Batch 제공 | 일부 제공 |
토큰 비용을 줄이는 네 가지 실제 상황
단순 분류·번역·요약
기존: 모든 작업을 상위 모델 하나로 처리
AISELECTOR: 기능별 품질 하한을 통과한 경량·무료·저가 모델로 다운시프트
중요 작업은 고급 모델로 고정해 품질 저하 방지
공급자 장애와 잔액 소진
기존: 실패한 호출을 앱에서 반복하며 토큰과 시간을 낭비
AISELECTOR: 서킷브레이커와 지갑 상태가 죽은 경로를 후보에서 제외
같은 모델의 다른 결제 경로를 먼저 선택 가능
여러 회사 API 키 운영
기존: 회사별 가입·키·청구·사용량 화면을 각각 관리
AISELECTOR: 관리형 키 하나 또는 암호화 BYOK로 통합
BYOK는 AISELECTOR 마크업 0
AI 회사와 모델 패밀리
현재 직결·집계 배선과 확장 대상을 함께 보여줍니다. “확장” 표시는 아직 모든 모델을 관리형 호출로 판매한다는 뜻이 아닙니다.
Anthropic
직결 + 집계 경로Claude Opus · Sonnet · Haiku
장문 추론, 코딩, 문서 작업
OpenAI
직결 + 집계 경로GPT · o-series · OSS
범용 추론, 도구 사용, 멀티모달
Gemini · Gemma
긴 문맥, 멀티모달, 비용 효율
Perplexity
직결Sonar
웹 근거 검색과 인용
xAI
직결 호환Grok
실시간 정보, 추론
DeepSeek
직결 호환DeepSeek Chat · Reasoner
저비용 추론과 코딩
Mistral AI
직결 호환Mistral · Codestral · Ministral
유럽권, 다국어, 경량 배포
NAVER Cloud
직결 호환HyperCLOVA X
한국어와 국내 업무 문맥
Meta
집계 경로 확장Llama
개방형 생태계와 폭넓은 호스팅
Alibaba Cloud
집계 경로 확장Qwen
다국어, 코딩, 시각 모델
Cohere
집계 경로 확장Command · Embed · Rerank
기업 검색과 RAG
AI21 Labs
집계 경로 확장Jamba
긴 문맥과 기업용 생성
Microsoft
집계 경로 확장Phi
소형 모델과 엣지 활용
NVIDIA
집계/BYOKNemotron
개방형 추론과 합성 데이터
Zhipu AI
집계/BYOKGLM
다국어와 에이전트 작업
01.AI
집계 경로 확장Yi
다국어 개방형 모델
Nous Research
집계 경로 확장Hermes
도구 사용과 개방형 튜닝
Amazon
집계 경로 확장Nova
기업용 멀티모달
Moonshot AI
집계 경로 확장Kimi
긴 문맥과 추론
MiniMax
집계 경로 확장MiniMax
긴 문맥과 멀티모달