Новости по тегу "gemm"
Подборка публикаций, содержащих тег "gemm". Актуальные темы и важные события.
AI-ученые уже здесь: Большой тур по LLM, которые меняют фундаментальную науку
Искусственный интеллект превращается из инструмента в полноценного партнера ученого. В этом большом обзоре мы рассмотрим, как LLM вроде AlphaFold...
Учимся разрабатывать для GPU на примере операции GEMM
Привет, Хабр! Сегодня я расскажу про реализацию матричного умножения и особенности разработки для GPU. Познакомлю вас с устройством GPU, объясню,...
Личный помощник в Telegram: как я сделал ИИ-бота, который сэкономил часы на переписках
Которую неделю заканчивал работать под утро. Когда понял, что вишу в телеграме по 5 часов в день, отвечая на одни и те же техвопросы, разозлился....
На входе аудио, на выходе — саммари. Собираем локальный транскрибатор из бесплатного софта
Однажды я устал расшифровывать аудио пачкой инструментов в духе «Балерино-Капучино и Бобрито-Бандито» и решил собрать свой пайплайн.В статье...
Распределённый инференс и шардирование LLM. Часть 2: скрипт vLLM, Ray Serve для вывода API и настройка KubeRay Cluster
Продолжаем пошагово разбираться с ответом на вопрос о том, как эффективно работать с передовыми LLM, используя доступное оборудование и...
OpenBLAS/gemm отстаёт на RISC-V
В ходе недавних исследований мы выполнили комплексное тестирование производительности математической библиотеки OpenBLAS на платформе RISC‑V и...