Новости по тегу "litellm"
Подборка публикаций, содержащих тег "litellm". Актуальные темы и важные события.
Где живут LLM: разбираем инференс-кластер YADRO и тестируем его производительность
Привет, Хабр! В этой статье я расскажу про наш LLM инференс-кластер YADRO: зачем он нужен, что у него под капотом и как в такой конфигурации...