ИИ
[Перевод] Обнаружение уязвимостей агентов ИИ. Часть III: Утечка данных
Как риск усиливается в мультимодальных AI-агентах, когда скрытые инструкции,...
Новости по тегу "инъекция промтов"
Подборка публикаций, содержащих тег "инъекция промтов". Актуальные темы и важные события.
ИИ
Насколько русскоязычные LLM устойчивы к промпт-инъекциям
Последние годы генеративные большие языковые модели (LLM), такие как ChatGPT и...
ИИ
[Перевод] Чёрный ящик раскрыт: как инъекция промта заставляет ИИ говорить всё и вытягивает системный запрос
Исследователи из HiddenLayer представили универсальную технику инъекции...