5 Years of Production ML/LLM Ownership

LLM 시스템의 다양한 가능성을 구현하고 싶은 사람

번개장터는 월간 활성 이용자(MAU) 1,000만 명 규모의 국내 대표 중고거래 플랫폼입니다. 이곳에서 5년간 AWS 환경에서 프로덕션 ML 시스템을 구축해왔고, 최근에는 stateless, high-throughput 제약 속에서 비용과 지연시간을 최적화하는 LLM 추론에 집중해 왔습니다. 이제는 LLM 시스템의 더 다양한 가능성 — 특히 에이전틱 시스템 — 을 구현하는 경험을 쌓고 싶습니다.