Жесткий контроль над ИИ агентами как инструмент для массовой слежки

Уже в ближайшем будущем сеть будет наполнена ИИ агентами. Персональные агенты, агенты компаний, государств… Скорей всего уже через пару лет почти у всех нас будут как минимум поодному своему агенту, как сейчас у нас есть профили в соцсетях.

Как понять кому принадлежит агент, с которым ты или твой агент сейчас собираетесь взаимодействовать? Можно ли ему доверять? Не фейк ли это? Брать ли трубку или заказывать ли на этом сайте билеты?

Агент ID — это что‑то вроде телефонного номера, но более сложное, так как поведение определяется многими параметрами — промптом, базой знаний и моделью. Изменение любого из них приведет к изменению поведения агента. Можно рассматривать это как версию определенной программы, она как бы та же, но немного иная. По мнению авторов, каждая такая версия заслуживает своего ID.

Читать далее
4