2019년 8월 1주차 - "'마켓컬리'에 숨어있는 IT"
1. '마켓컬리'에 숨어있는 IT
(편집자 주: 이 글은 마켓컬리가 어떻게 자사 서비스를 업그레이드했는가에 대한 홍보 글입니다. 하지만 웹 서비스에 대한 다양한 최신 기술들이 적용되어 있고 EC기술연구소에서도 이와 관련하여 업무를 진행하고 있기에 다루게 되었습니다)
마켓컬리의 업그레이드 내용은 크게 '머신러닝(케라스) 기반 후기 선별', '머신러닝 기반 상품 수요 예측', '커머스 및 물류 시스템 AWS 클라우드로 이관', '테라폼을 이용한 자체 백업 시스템' 등 4가지이며, 이들은 크게 신기술 적용과 시스템 안정성 확보를 위한 고도화 두 가지 측면으로 나눌 수 있습니다.
먼저 신기술 적용 측면으로 머신러닝 기반 서비스 도입을 들 수 있습니다. 사업이 급격하게 커지면서, 적립금 지급을 위한 구매 후기 선별을 수기로 진행하는 것이 더는 불가능해졌습니다. 그래서 머신러닝 오픈소스 플랫폼인 케라스를 기반으로 이미지를 학습시켜, 조건에 맞지 않는 후기를 선별하도록 하여 수기 운영 업무의 부담을 줄였습니다. 또한 머신러닝을 이용하여 주문량을 예측하고, 예측 결과에 따라 운영 계획 및 인력 할당을 진행함으로써 모든 상품의 폐기량을 줄였으며, 현재 그 비율을 1% 이하로 낮추는데 목표를 두고 있다고 밝혔습니다. (케라스는 텐서플로와 더불어 현재 가장 많이 쓰이는 머신러닝 플랫폼으로, EC기술연구소 역시 케라스를 이용하여 고객 분류 및 상품 추천 등의 기능을 구현하고 있습니다)
안정성 확보를 위한 고도화를 위해, 확장성을 고려한 AWS 클라우드 이전과 서비스 중단에 대처하기 위한 자체 백업 시스템 구축이 적용되었습니다. 마켓컬리는 커머스와 물류시스템으로 구성된 IT 시스템 대부분을 AWS 클라우드로 이전하였습니다. 그 결과 실제로 트래픽이 9배까지 급격하게 늘어난 상황에서도 시스템이 무리 없이 동작했고, 이에 올해 말까지 100% 이전을 목표로 하고 있다고 밝혔습니다. 또한 자체 백업 시스템을 구축하였습니다. 지난해 발생한 AWS 장애로 인해 내부 인프라까지 연쇄적으로 무너지면서 큰 비용 손실을 겪은 마켓컬리는 이에 대한 대비책이 시급하다고 판단, 테라폼 오픈소스를 이용하여 시스템이 무너졌을 때 빠르게 복원할 수 있도록 고도화하였습니다. 이러한 방법은 멀티 클라우드를 유지하는 비용이 부담스러운 스타트업의 입장에서 나쁘지 않은 선택으로 보입니다.