[AI Frontier Div.] AI Inference Paltform & Operations Engineer (5년 이상)

우리 팀(프로젝트)을 소개합니다. 

• AI Frontier 본부는 크래프톤의 AI 기술을 실제 제품과 서비스로 연결하고, 새로운 사업 기회를 검증하고 확장하는 조직입니다. 여러 Squad가 서로 다른 고객과 시장을 대상으로 사업을 추진하며, 각 Squad는 제품 개발부터 서비스 운영과 사업 성과까지 책임집니다. 고객의 요구와 실제 사용 결과를 바탕으로 제품을 개선하고, 사업성이 확인된 서비스를 확장해 나갑니다.
• AI Inference Platform & Operations 팀은 이러한 제품들이 공통으로 사용하는 추론 기반을 만들고, 이를 바탕으로 외부 고객에게 제공하는 추론 서비스를 구축·운영합니다. 자체 모델과 오픈웨이트 모델을 빠르고 안정적으로 서비스에 연결하고, 트래픽이 성장해도 일관된 응답 속도와 가용성을 유지하며, GPU 자원과 추론 비용을 효율적으로 운영하는 것이 팀의 미션입니다.
• AI Frontier 본부 구성원들은 직급과 연차에 상관없이 의견을 내고, 결정하면 빠르게 실행합니다. 장애를 겪으면 숨기지 않고 포스트모템으로 시스템을 더 단단하게 만들고, 아키텍처와 실험 결과와 의사결정 과정을 문서로 남깁니다. AI 도구를 일상적인 개발·운영 도구로 쓰며, 새로운 모델과 서빙 기술이 나오면 바로 써보고 프로덕션에 적용할 방법을 찾는 문화를 지향합니다.

 

우리 팀과 함께할 미션을 소개합니다.

• 대규모 추론 서비스의 안정적인 운영과 서빙 플랫폼 개선을 중심으로 다음 업무를 수행합니다.
• 서빙 플랫폼과 control plane 구축·운영: Kubernetes 기반 GPU 클러스터에서 서빙 서비스를 운영하고, vLLM·SGLang 등 서빙 엔진과 오케스트레이션 계층을 연결합니다. 요청 라우팅, 오토스케일링, 멀티 모델 운영 기능을 구현합니다.
• 안전한 모델 온보딩과 배포 자동화: 새 모델의 성능·품질 회귀 테스트, 배포 자동화, 카나리·롤백 파이프라인과 API gateway의 인증·쿼터·rate limit을 구축·개선합니다. 사업 Squad와 모델 개발자가 모델을 일관되게 온보딩할 수 있는 도구와 가이드를 만듭니다.
• SLO와 운영 신뢰성 확립: Squad와 함께 정한 SLO를 기준으로 지연·처리량, 가용성·에러율을 관측하고 병목과 장애 원인을 분석합니다. 장애 대응과 포스트모템에 참여해 개선 사항을 운영에 반영합니다.
• GPU 자원 운영과 단위 원가 측정: GPU 할당·격리·우선순위 정책을 운영하고, 모델·워크로드별 GPU 활용률과 요청·토큰 단위 원가를 측정합니다.
• 서빙 로직 구현과 서빙 시스템 개선: 서비스 요구에 맞춰 라우팅·스케줄링·캐시 정책과 모델 연동 코드를 개선합니다. 서빙 엔진의 기능을 실제 트래픽에서 검증하고, 필요한 부분은 엔진을 확장합니다.
• 최적화 연구 결과의 검증과 프로덕션 적용: 양자화 체크포인트, speculative decoding처럼 AI Research 조직이나 오픈소스가 제공한 최적화 구현을 실제 워크로드에서 검증하고, 품질·성능 회귀를 확인한 뒤 프로덕션에 적용합니다.

 

이런 경험을 가진 분과 함께 성장하고 싶습니다! (필수요건)

• 엔지니어링 실무 경력 5년 이상이며, 그중 인프라·SRE·플랫폼 엔지니어링 또는 ML 시스템 분야에서 3년 이상 일하고, 장애가 곧 사용자 영향으로 이어지는 프로덕션 서비스를 직접 운영해 오신 분
• Kubernetes 또는 이에 준하는 오케스트레이션 환경에서 배포, 로드밸런싱, 스케줄링, 오토스케일링을 설계하고 운영해 보신 분
• 메트릭·로그·트레이스 기반 관측성 체계를 만들고, 온콜·장애 대응과 포스트모템을 거쳐 장애의 근본 원인을 구조적으로 개선해 보신 분
• 운영 자동화 도구나 플랫폼 기능을 직접 코드로 구현하고, IaC·GitOps·CI/CD로 인프라와 배포를 재현 가능하게 관리해 보신 분
• 모델 연구자·제품 개발자 등 다른 직군과 요구사항을 맞추고, 설계와 운영 결정을 문서로 남겨 공유해 오신 분
• 해외 출장에 결격 사유가 없는 분

 

이런 경험들이 있다면 저희가 찾는 그 분입니다! (우대요건)

• 대규모 트래픽 또는 저지연 실시간 서비스(게임 포함)를 운영하며, 트래픽 변화에 대응해 서비스 안정성을 개선한 경험
• 수요 변화에 맞춰 capacity planning을 수행하고, 쿼터·우선순위·자원 격리 정책을 운영한 경험
• GPU 환경에서 vLLM·SGLang·TensorRT-LLM·Triton Inference Server 등을 이용해 LLM·ML 모델을 프로덕션에 서빙한 경험
• 서빙 엔진의 스케줄링·배칭·KV cache 관리 동작을 이해하고, continuous batching·Prefill-Decode 분리·prefix caching·KV cache offloading 등의 기능을 실제 트래픽에 적용해 처리량이나 지연을 개선한 경험
• 멀티노드 GPU 환경이나 시스템 레벨의 성능 병목을 분석하고 개선한 경험
• 연구 조직이나 오픈소스가 제공한 최적화 결과(양자화 체크포인트·speculative decoding 등)를 품질·성능 회귀 테스트로 검증하고 프로덕션에 적용한 경험

 

---

크래프톤의 도전에 함께 하기 위해 아래의 전형 과정이 필요합니다.

• 서류 전형 > 사전 인터뷰 (Phone Interview) > *과제 전형 > 인성검사 (Personality Assessment) > 직무면접 (Technical Fit Interview) > 종합면접 (2-3회) (Culture Fit Interview) > 합격 및 입사
• *해당 절차는 각 포지션 및 후보자에 따라 변동이 있을 수 있습니다.
• 상시 채용으로 채용 완료 시 조기 마감될 수 있습니다.
• 필요 시, 인터뷰 및 직무 테스트가 추가될 수 있습니다.
• 전형 일정 및 합격 또는 불합격 결과는 지원서에 등록하신 이메일 또는 유선으로 개별 안내 드립니다.

 

필요 서류를 확인해주세요!

• 입사지원서 (자유 양식), 자기소개서, 경력기술서, 포트폴리오 (필요 시)
• 신입일 경우 자기소개서를, 경력일 경우 경력기술서를 중심으로 기술해 주시기 바랍니다.
• 포트폴리오 첨부 시, 하단 안내 사항을 확인해 주시기 바랍니다. 
  

 

근무지

• 역삼 센터필드

 

고용형태 

• 정규직 (단, 후보자 처우 협의 결과에 따라 고용형태가 변경될 수 있음)