За каждым поисковым запросом, персональной лентой рекомендаций и модерацией карточек товаров на Ozon стоит серьёзная вычислительная инфраструктура. В масштабах крупного маркетплейса суперкомпьютер становится буквально сердцем системы, работающим под высокой нагрузкой в режиме 24/7.
На примере вычислительных кластеров Ozon «Заяц» и «Волк» (по 20 петафлопс каждый) мы разберём инженерные подходы к построению суперкомпьютеров для промышленного ML. Вы узнаете, почему для десятков GPU-серверов так важна быстрая сеть, как утилизировать ресурсы по максимуму и как на единой платформе уживаются принципиально разные вычислительные задачи: онлайн-инференс с жёсткими требованиями по времени отклика (десятки миллисекунд) и многодневное ресурсоёмкое обучение тяжёлых моделей.
Ведущий
Спикер
Владимир Гулин
Ozon