ConnectWave, 목적 특화 LLM으로 제품 가격 비교를 자동화했습니다

ConnectWave는 월간 활성 사용자 1,800만 명 이상을 보유한 한국의 대표 이커머스 플랫폼입니다. 다양한 카테고리의 제품을 소비자와 연결하는 가격 비교 서비스를 전문으로 합니다. 폭넓은 카탈로그와 직관적인 인터페이스로 정확하고 상세한 제품 정보를 제공하며, 소비자가 현명한 구매 결정을 내릴 수 있도록 돕습니다.

일반 목적 LLM은 공개 데이터셋과 범용 학습에 의존하기 때문에 이커머스 같은 특정 산업의 요구를 충족하기 어렵습니다. ConnectWave는 가격 비교 웹사이트 Danawa를 위해 제품 카탈로그에서 상세 정보를 수동으로 추출하고 정리하는 작업에 상당한 시간을 쏟아야 했습니다. 이 작업은 정확한 제품 목록 유지에 필수적인 만큼, 사용자 경험과 운영 효율성에 직접 영향을 미쳤습니다.

Upstage는 ConnectWave 전용 프라이빗 이커머스 특화 LLM을 개발했습니다. 속성-값 추출(AVE)과 감성 분석에 맞춰 파인튜닝된 이 모델은 제품 속성 추출·분류를 자동화하고, 고객 리뷰에서 실행 가능한 인사이트를 뽑아냅니다.

개발은 세 단계로 진행됐습니다.

• 공개 데이터 후훈련: 공개 데이터셋으로 기본 모델의 커머스 도메인 이해도를 높였습니다.
• 프라이빗 데이터 후훈련: ConnectWave의 자체 데이터셋을 반영해 프라이빗 도메인 특화 LLM을 구축했습니다.
• 태스크 파인튜닝: 태스크별 파인튜닝으로 ConnectWave의 요구에 맞게 모델을 추가 최적화했습니다.

Mixture-of-Experts(MoE)

도메인 특화 지식을 기본 LLM에 녹여 넣기 위해 Upstage는 MoE 아키텍처를 적용했습니다. Transformer 블록의 MLP 레이어를 복사-붙여넣기 방식으로 N개 레이어로 확장하고, Router 네트워크와 Weighted Sum 모듈을 추가해 각 레이어의 활성화를 제어했습니다. LayerNorm, Attention 등 핵심 구조 요소는 기본 LLM에서 그대로 가져와 새로운 데이터를 효과적으로 학습하도록 조정했습니다.

MoE 구조는 전문가 네트워크가 협력하는 방식으로 성능을 높입니다. 각 MLP 레이어가 특정 작업이나 데이터 유형을 전담하기 때문에, 추천·설명·속성 추출·요약 같은 작업에서 맥락에 맞는 정확한 응답을 제공합니다. 토큰마다 필요한 전문가만 활성화하는 희소(sparse) 구조 덕분에 추론 속도도 크게 빨라집니다. 속도와 정확도 모두에서 범용 모델을 앞섭니다.

기술 파트너 활용

지속적인 후훈련에 AWS SageMaker를 활용한 것이 프로젝트 성공의 핵심이었습니다. SageMaker의 분산 훈련 기능으로 대규모 데이터셋을 여러 연산 자원에 걸쳐 병렬 처리해 훈련 시간을 대폭 단축했습니다. 매끄러운 확장성 덕분에 늘어나는 데이터 양과 처리량 요구에도 손쉽게 대응할 수 있었습니다. 이 두 가지의 결합이 까다로운 후훈련 작업을 안정적으로 처리할 수 있는 토대가 됐습니다.

맞춤형 LLM이 ConnectWave 상품 등록 담당자의 수작업 부담을 크게 줄였습니다. 데이터 추출·분류를 높은 정확도로 자동화했고, AE-110k 벤치마크에서 GPT-3.5를 앞섰습니다. 덕분에 상품 메타데이터 표준화가 강화됐고, 사용자 쇼핑 경험이 개선됐으며, ConnectWave의 생산성이 높아졌습니다. 도메인 특화 프라이빗 LLM이 이커머스 운영을 어떻게 바꿀 수 있는지 보여준 사례입니다.