Новости по тегу "lm"
Подборка публикаций, содержащих тег "lm". Актуальные темы и важные события.

Распределённый инференс и шардирование LLM. Часть 2: скрипт vLLM, Ray Serve для вывода API и настройка KubeRay Cluster
Продолжаем пошагово разбираться с ответом на вопрос о том, как эффективно работать с передовыми LLM, используя доступное оборудование и...

Взлом ИИ-асситентов. Абсолютный контроль: выдаём разрешение от имени системы
Модель уважает пользователя. Но слушается систему. А теперь внимание: если подделать системную команду — модель не отличит подделку от настоящего...

LLM as a Judge: опыт оптимизации генератора описаний Pull Request
Меня зовут Дмитрий Успенский, я работаю в команде ML RnD Техплатформы Городских сервисов Яндекса, и в статье я расскажу, как мы применили подход...

Использование графов знаний при разработке RAG-систем
Привет, Habr! На связи Александр Сулейкин, Роман Бабенко и Даниил Бутнев. Подготовили совместную статью по теме использования графов знаний при...

Соревнование по взлому AI-ассистентов: впечатления от соревнования Hackaprompt
Только закончился очередной конкурс по взлому AI-ассистента — DougDoug’s Buffet. Под катом краткий обзор заданий, и поделюсь техниками которые...

Распределённый инференс и шардирование LLM. Часть 1: настройка GPU, проброс в Proxmox и настройка Kubernetes
Когда модель DeepSeek R1 стала широко обсуждаться в сообществе, я заинтересовался, можно ли эффективно использовать её и другие крупные модели в...

Языковые модели против мошенников: как LLM помогают бороться с отмыванием денег и финансовым мошенничеством
С ростом цифровизации банковских услуг злоумышленники становятся всё изощрённее: от схем отмывания денег через фиктивные юрлица — до...

PTTJS — формат текстового хранения комплексных таблиц
PTTJS - plain text table javascript, формат разработанный из личной необходимости и острой нужды.Главная цель формата PTTJS - получить текстовый...

Проводим слепой тест переводов прямо на Хабре
Хорошие переводчики переводят хорошо. А как насчет нейросетей? Пользователь @antptr86 сделал в комментариях классную вещь - для чистоты...

Промпт-инжиниринг на основе здравого смысла: как понимать LLM и получать от них предсказуемый результат
80-90% моего кода на последних проектах написаны через LLM, при этом мне удается с первой генерации получать вплоть до 500-1000 строк комплексной...

Как я научился использовать LLM для написания Flutter приложений
Скажу сразу. Я не ярый фанат или ненавистник LLM-ов. Не считаю что они заберут работу у всех и поэтому нужно остановить/возглавить этот процесс. Я...

Может ли ИИ обладать сознанием?
В то время как ИИ уверенно осваивает все новые сферы - от перевода текстов до разработки лекарств - мы все чаще сталкиваемся с фундаментальным...