AI Platform Team Leader

Toss

Toss

Software Engineering, Data Science
Posted on Jul 22, 2025
토스 Affiliation
정규직

LLM Platform 팀을 소개해 드려요.

토스의 LLM Platform 팀은 유저에게 탁월하고 신뢰할 수 있는 AI 기반 서비스 경험을 제공하기 위해 만들어진 기술 중심 조직이에요. 대규모 언어 모델(LLM)을 활용한 검색 및 자동화 등 다양한 서비스를 빠르게 실험하고 확장해 나가고 있으며, 서비스 품질 향상과 운영 효율화를 위한 LLM 인프라 내재화, 최적화 및 안정화를 리딩해요.

합류하면 함께 할 업무예요.

  • LLM 모델을 서빙, 운영할 수 있는 환경을 구축해요. (On-prem, 클라우드, 멀티 모델 대응)
  • 프롬프트 템플릿 관리하고 버전 관리 시스템을 구축해요.
  • 데이터 레이크와 통합된 학습 및 추론 파이프라인을 구축해요.
  • Embedding 기반 검색 infra (RAG 등)을 구축해요.
  • AI Governance 수립 즉, 모델 사용 정책, 보안, 감사 로깅 등을 수립해요.
  • 서비스팀이 쉽게 활용할 수 있도록 도구 및 SDK를 제공해요.
  • LLM 엔지니어, 연구원, MLOps 개발자 등 채용 및 조직 비전 수립 및 기술 내재화를 주도해요.

이런 분과 함께하고 싶어요.

  • LLM 또는 ML 기반 AI 시스템 개발 및 운영 경험을 5년 이상하신 분이면 좋아요.
  • Embedding 모델, Vector DB, RAG 파이프라인 구축 경험이 있으신 분이면 좋아요.
  • Python 기반 개발 환경 및 MLOps 도구 활용 경험 (예: LangChain, Weights & Biases, Ray Serve 등)이 있으시면 좋아요.
  • 다양한 부서와 협업하며 문제를 해결한 경험과 커뮤니케이션 역량이 있으시면 좋아요.
  • 빠르게 실험하고 반복적으로 개선하는 애자일한 기술 리더십이 있으시면 좋아요.

이런 분이면 더 좋아요.

  • 오픈소스 LLM을 활용한 자체 모델 운영 경험이 있으시면 좋아요.
  • Fintech/금융 서비스 분야의 LLM 적용 경험이 있으시면 좋아요.
  • NLP, Information Retrieval, Vector Search 관련 연구 또는 실무 경험이 있으시면 좋아요.
  • 신기술을 단순히 적용하는 것을 넘어, 비즈니스 문제 해결로 연결하는 데 관심 있는 분
  • “이건 왜 이렇게 작동할까?”라는 호기심을 기반으로 끝까지 파고드는 자세를 가진 분
  • 코드와 인프라뿐 아니라 사람과 협업하는 데도 능숙한 분

토스로의 합류 여정

  • 서류접수 > 직무 인터뷰 > 문화적합성 인터뷰 > 레퍼런스 체크 > 처우협의 및 입사일 조율 > 최종합격