Новости по тегу "tensorrt"
Подборка публикаций, содержащих тег "tensorrt". Актуальные темы и важные события.
Эффективный инференс множества LoRA адаптеров
LoRA — популярный метод дообучения больших моделей на небольших датасетах, однако на этапе инференса низкоранговые адаптеры работают неэффективно,...