동작 방식
가상 키로 호출
각 프로젝트는 실제 LLM 키 대신 GATENIX가 발급한 가상 키(sk-...)와 게이트웨이 주소만 사용합니다.
예산 · 제한 · 로깅 · 가드레일
게이트웨이가 예산과 호출 제한을 적용하고, 모든 요청을 기록하며 보안 가드레일을 통과시킵니다.
Gemini · OpenAI · Claude
DB에 암호화 저장된 실제 프로바이더 키로 최종 호출합니다. 실제 키는 서버 밖으로 나가지 않습니다.
핵심 개념 — 두 종류의 키
GATENIX에는 성격이 다른 두 종류의 '키'가 있습니다. 이 구분만 이해하면 전체 구조가 한눈에 잡힙니다.
주요 기능
단일 엔드포인트
OpenAI 호환 API. 기존 툴에 키와 주소만 바꾸면 사내 모든 LLM 호출이 하나로 통합됩니다.
예산 자동 차단
키·팀·플랜별 일/월 예산을 정하면 초과 시 자동으로 호출을 차단해 비용을 통제합니다.
호출 제한(Rate Limit)
분당(rpm·tpm)과 초당(rps) 제한을 이중으로 적용하고, 엣지에 전역 안전망까지 둡니다.
보안 가드레일
PII 마스킹·프롬프트 인젝션 차단·커스텀 금지어 필터를 요청이 LLM에 닿기 전에 적용합니다.
멀티 프로바이더·로드밸런싱
Gemini·OpenAI·Claude를 통합하고, 같은 모델 키를 여러 개 두어 자동 분산·라우팅합니다.
통계·로그·감사
사용량·비용·지연 통계와 호출 로그(CSV), 변경 감사 로그, 예산·이상 알림을 관리 콘솔에서 제공합니다.
이 모든 걸 관리 콘솔 하나에서
설치부터 운영까지, 코드 없이 관리자 콘솔에서 메뉴별로 관리합니다.
LLM 연동
프로바이더 키 등록 · 모델 별칭 · 토큰 단가 · 로드밸런싱
라우팅 전략
단순 분산 · 최소 부하 · 사용량 · 지연 · 비용 기반 5가지
플랜 · 팀
예산·제한 플랜(티어)과 부서·프로젝트 팀 예산 관리
API 키
가상 키 발급 · 허용 모델 · 예산 · rpm/tpm/rps · 만료 설정
플레이그라운드
콘솔에서 모델을 즉석 테스트하고 응답·토큰·지연 확인
통계 대시보드
요청·비용·토큰·에러율·p95·예상 월 비용을 차트로
호출 로그
요청 단위 기록 · 필터 · CSV 내보내기 · 프롬프트/응답 상세
감사 로그
키·모델·사용자·팀·플랜의 모든 변경 이력 기록
이런 분들께 적합합니다
GATENIX은 아래와 같은 환경에서 특히 강점을 발휘합니다.
요금 안내
게이트웨이 도입에 필요한 설치·기본 세팅을 하나로 묶은 기본 구축 패키지에, 환경과 요건에 맞춘 추가 작업을 선택해 구성합니다.
기본 구축
게이트웨이 설치부터 관리 콘솔, 보안·예산·키 기본 세팅과 도입 교육까지 포함한 기본 패키지입니다.
- ✓게이트웨이 설치 및 서버 배포 (1개 환경)
- ✓관리자 콘솔 · 로그인/권한(관리자·뷰어)
- ✓기본 LLM 프로바이더 연동 (최대 3종)
- ✓예산·호출 제한·API 키 발급 기본 세팅
- ✓보안 가드레일(PII·인젝션·금지어) 기본 구성
- ✓통계·호출 로그·감사 로그 기본 제공
- ✓Langfuse 트레이싱(대화·trace 심층 분석) 기본 제공
추가 작업 항목
환경·요건에 따라 아래 작업을 선택해 구성할 수 있습니다.
추가 LLM 프로바이더 연동
기본 제공(3종) 외 추가 모델·프로바이더 연동 및 토큰 단가 등록
SSO · 계정 연동
사내 LDAP·OAuth·SAML 등 기존 계정 체계와 로그인 연동
사내 시스템 커스텀 연동
사내 API·데이터 소스와의 커스텀 연동 및 워크플로우 구성
온프레미스 · 폐쇄망 설치
망분리·온프레미스 환경 설치 및 네트워크/보안 튜닝
커스텀 가드레일·정책 수립
업종·보안 요건에 맞춘 금지어·마스킹·차단 정책 설계
UI · 리포트 커스터마이징
관리 콘솔 브랜딩, 맞춤 리포트·대시보드 항목 추가
데이터 마이그레이션
기존 키·사용량·호출 로그 데이터 이관
유지보수 · 기술지원
월 단위 운영 모니터링·장애 대응·업데이트 (월 정액)
추가 작업은 요건과 범위에 따라 별도 견적으로 안내드립니다. 정확한 금액은 도입 문의를 통해 확인해 주세요.
