[Перевод] Мы научили ИИ-агента думать как программист, и теперь мы не знаем, что у него на уме
Краткое резюме
Автор статьи отмечает, что прежние представления об ИИ-агентах были упрощёнными: доступ к информации не означает, что система сразу научится всем навыкам.
В фильме «Матрица» есть эпизод, в котором Нео за короткое время осваивает навыки джиу-джитсу через загрузку в мозг. После этого он сражается так, будто занимался единоборствами десятилетиями. Именно такое представление о работе ИИ-агентов у меня было: стоит им предоставить доступ к информации, как они сразу научатся всем пользоваться.
Однако, разобравшись в устройстве подобных систем, я осознала, что мои прежние представления были упрощёнными и ошибочными. Разумеется, в то время я была ещё ребёнком.