Token Engineer
TwelveLabs26 days ago
Seoul, Korea, SouthSenior
Responsibilities
- AI 코딩 도구와 모델 API의 사용량, 비용, 모델, 지연 시간, 오류, 재시도 및 사용자·팀 정보를 수집하는 표준 계측 파이프라인을 설계하고 구현합니다.
- 사용량·비용 대시보드, 자동 알림, 이상 징후 탐지 및 제공자 청구 내역 검증 시스템을 구축합니다.
- 인증, 권한, 사용 한도, 예산, 속도 제한, 모델·제공자 라우팅, 캐시, 재시도 및 감사 로그를 관리하는 AI 게이트웨이와 제어 계층을 설계·운영합니다.
- 성공한 작업당 비용, 지연 시간, 실패율, 재시도율 등 AI 사용 효율 지표와 운 영 정책을 정의합니다.
- AWS와 Kubernetes 환경에서 확장 가능하고 안전한 서비스를 구축하며 Infrastructure as Code, 비밀정보 관리, 역할 기반 접근 제어 및 데이터 보존 정책을 적용합니다.
- 서비스 수준 목표, 운영 절차 및 장애 대응 체계를 수립하고 비용 급증과 제공자 장애에 대응하는 도구를 만듭니다.
- 팀별 셀프서비스 도구와 문서를 제공하고 반복적인 수동 확인을 자동화합니다.
- 모델 및 제공자의 품질, 비용, 지연 시간과 안정성을 비교해 라우팅 및 최적화 방안을 구현합니다.
Requirements
- 인프라, 플랫폼, 백엔드 또는 엔지니어링 분야에서 5년 이상 근무했거나 이에 준하는 프로덕션 시스템 구축·운영 경험이 있어야 합니다.
- AWS와 Kubernetes로 실제 서비스를 구축·운영하고 Terraform과 같은 Infrastructure as Code 도구를 사용한 경험이 필요합니다.
- Python 또는 Go로 장기 유지 가능한 프로덕션 서비스를 개발할 수 있어야 합니다.
- 로그, 메트릭 및 분산 추적을 포함한 관측성 데이터를 설계하고 장애나 성능 저하의 근본 원인을 분석한 경험이 필요합니다.
- API 게이트웨이, 프록시, 네트워크, 인증 또는 권한 관리 영역 중 하나 이상에 대한 깊은 경험이 필요합니다.
- 사용량 계측, 과금, 할당량, 비용 배분 또는 대규모 이벤트 처리 시스템을 설계·운영한 경험이 필요합니다.
- 보안, 안정성, 비용 및 개발자 경험 사이의 상충 관계를 이해하고 설계 결정을 내릴 수 있어야 합니다.
- 불완전한 요구사항을 구조화하고 설계부터 배포·운영까지 주도적으로 완성한 경험이 필요합니다.
- 엔지니어와 비전문가 모두에게 기술적 내용을 명확히 설명하고 여러 조직과 합의할 수 있어야 합니다.
- 대규모 언어 모델 API, AI 게이트웨이, 모델 서빙, AI 코딩 도구용 내부 플랫폼, 관측성 플랫폼, FinOps, 비용 귀속, 정책 엔진, 엔터프라이즈 보안 또는 개발자 플랫폼 경험은 우대됩니다.
- 해외 여행에 결격 사유가 없어야 합니다.
Benefits
- 자율성과 협업을 갖춘 하이브리드 근무를 제공합니다.
- 최신 맥북과 70만 원 상당의 재택근무 장비를 지원하며 3년 주기로 장비를 교체합니다.
- Tech 직군에 LLM 토큰을 무제한 지원합니다.
- 강의·컨퍼런스·멤버십 등에 사용할 수 있는 연 140만 원 상당의 자기개발비와 영어 교육·글로벌 버디 프로그램을 제공합니다.
- 야간 및 주말 출퇴근 택시비를 지 원합니다.
- 식비·교통비 등에 사용할 수 있는 연 720만 원 상당의 법인카드와 사내 스낵바를 제공합니다.
- 오후 7시 이후 사무실 근무 시 저녁 식대를 제공합니다.
- 본인 및 가족 1인의 연 1회 건강검진, 단체보험, 독감 예방접종비를 지원합니다.
- 연말 2주간 유급 Holiday Break를 운영합니다.
- 모든 입사자에게 3개월의 수습기간이 적용되며 해당 기간 급여는 100% 지급됩니다.