Новости по тегу "gguf"
Подборка публикаций, содержащих тег "gguf". Актуальные темы и важные события.
Русскоязычные LLM для вызова инструментов, переводов и финансовой аналитики
🧠 Русскоязычные LLM для вызова инструментов, переводов и финансовой аналитикиПодборка моделей, которые действительно позволяют отказаться от...
Ускорение DeepSeek-R1 с подвохом: Когда токены в секунду врут о реальной скорости
Токены летят быстрее, а результат — медленнее: парадокс квантизации DeepSeek-R1. Замеры 4 версий модели доказали: уменьшение размера ускоряет...
Локальный DeepSeek-R1: Когда скорость улитки – не приговор, а точка старта
Локальный DeepSeek-R1-0528 на скромном железе? Реально. Со скоростью улитки? Первоначально – да. Но итог моего эксперимента: эту 'улитку' можно...