GenRec: Netflix에서의 LLM-native 추천을 향하여

한 줄 요약

Netflix가 대형 언어 모델 기반의 추천 시스템 GenRec을 개발하여 복잡한 수작업 피처 의존성을 제거했습니다.

핵심 내용

• Netflix의 기존 추천 시스템은 수천 개의 수작업 피처와 복잡한 아키텍처에 의존하여 새로운 유스케이스 추가 비용이 높았음

• GenRec은 사용자 이력, 아이템 메타데이터, 맥락을 자연어 프롬프트로 변환(Verbalization)하는 방식 적용

• Phase 1에서는 오픈소스 LLM을 Netflix 코퍼스로 파인튜닝하여 콘텐츠와 행동 패턴 학습

• Phase 2에서는 랭킹 데이터와 보상 목표를 바탕으로 포스트 트레이닝 수행

• 토큰 예산 제약을 해결하기 위해 고신호 상호작용은 유지하고 저신호 이벤트는 생략하는 컨텍스트 엔지니어링 적용

• vLLM 기반 프리필 전용 추론으로 후보군 전체의 점수를 단일 포워드 패스로 계산하여 서빙 비용 최적화

• 약 10% 트래픽 대상으로 4주간 진행한 A/B 테스트에서 기존 모델 대비 단기·장기 지표에서 통계적으로 유의미한 개선 확인

왜 중요한가

LLM을 추천 시스템에 도입하면 엔지니어링 복잡도를 줄이고 새로운 기능 추가 속도를 높일 수 있다는 것을 Netflix의 프로덕션 데이터로 입증했습니다. 토큰 비용과 성능의 균형을 맞추기 위한 컨텍스트 엔지니어링, 보상 함수 설계 등의 실무 기법도 제시하고 있어, 대규모 시스템에서 LLM을 어떻게 적용할지 고민하는 조직들에게 참고할 만한 구체적인 사례입니다.

참조한 것 · 가져온 것

• 원문: https://netflixtechblog.com/genrec-towards-llm-native-recommendation-at-netflix-f20be6f643e3

• GeekNews: https://news.hada.io/topic?id=32010