Иван Оселедец представил доклад о достижениях и вызовах в области больших языковых моделей
Краткое резюме
Иван Оселедец, доктор физико-математических наук и генеральный директор института Айри, представил доклад об успехах и проблемах больших языковых моделей. Он отметил значительные достижения института, включая публикацию 93 статей, и подчеркнул важность практических аспектов работы.
Доктор физико-математических наук, профессор РАН, генеральный директор института Айри и декан факультета искусственного интеллекта МГУ Иван Оселедец представил доклад «Успехи и проблемы больших языковых моделей».
Оселедец начал с приветствия и обозначил, что в своём выступлении расскажет об успехах института, а также затронет проблемы, над которыми ведётся работа. Он отметил, что в этом году институт и его сотрудники достигли значительных результатов. Было опубликовано 93 статьи в конференциях, что больше, чем у других центров, занимающихся этой тематикой. Однако, по словам Оселедца, публикация статей не является главной целью института, так как там уделяется большое внимание практическим аспектам.
Далее Оселедец упомянул интервью Андрея Карпаты, порекомендовав его к просмотру тем, кто ещё не ознакомился. Он выделил одну из идей, которая показалась ему особенно интересной и неочевидной.
Многие считают, что языковые модели просто запоминают информацию. Оселедец подчеркнул, что институт долго объяснял принцип работы языковых моделей, включая этап предобучения, когда модель обучается на данных, собранных из интернета. Хотя широкая публика и начала понимать этот процесс, многие всё равно интерпретируют его неверно.