В докладе речь пойдёт об использовании Больших Языковых Моделей в рекомендательных системах. Тема будет раскрыта на примере создания и вывода в продакшн объяснений персональных рекомендаций в онлайн-кинотеатре.
Расскажем о том, что такое объяснения рекомендаций, и зачем они нужны, как в ходе реализации проекта решали задачи файн-тюнинга LLM, промт-инжиниринга и интеграции LLM в Near-Real Time пайплайн генерации рекомендаций. Поговорим и плюсах и минусах такого решения.