Минцифры планирует обязать маркировать контент в интернете для идентификации авторов

Министерство цифрового развития, связи и массовых коммуникаций разрабатывает новую норму, которая позволит внедрить в России технологию для подписи кода и контента. Эта информация поступила от источника Forbes, который знаком с деталями проекта. Технология позволит идентифицировать пользователей, публикующих контент, и достоверно подтверждать их личность. Источник, близкий к проекту, подтвердил, что работа над этим ведётся в департаменте обеспечения кибербезопасности Минцифры. В ответ на запрос Forbes пресс-служба Минцифры сообщила, что развитие искусственного интеллекта — это важная и перспективная область, которая открывает широкие возможности для инновационного роста. Однако необходимо внимательно подходить к вопросам предотвращения использования ИИ в преступных целях. В Минцифры сообщили Forbes, что в настоящее время обсуждаются возможные меры по борьбе с дипфейками. Рассматривается возможность введения системы маркировки контента, но пока не принято решение, какой контент будет маркироваться — оригинальный или созданный с помощью ИИ. Для определения наиболее сбалансированного и эффективного подхода и разработки соответствующих механизмов требуется диалог с отраслью и экспертным сообществом. В связи с этим министерство планирует создать межведомственную рабочую группу, которая займётся разработкой предложений по этим вопросам. Как ранее сообщали «Ведомости» со ссылкой на источники, «Яндекс» совместно с Институтом системного программирования РАН разрабатывает систему маркировки для контента, сгенерированного ИИ, в частности, нейросетью «Яндекса» «Шедеврум». Представитель компании подтвердил эту информацию, но сроки готовности разработки не были названы. Технологии, позволяющие подписывать сгенерированный контент в интернете, называются watermarking, что переводится с английского как технология цифрового водяного знака. Учёный в области ИИ, доктор физико-математических наук, генеральный директор Института искусственного интеллекта AIRI Иван Оселедец рассказал Forbes в ходе конференции AI Journey 21 ноября, что при генерации картинок обычно ставятся видимые цифровые водяные знаки, которые легко найти и удалить. Однако можно «зашить» цифровой водяной знак так, чтобы он был не виден, по аналогии с задачами шифрования. По словам учёного, в созданную ИИ картинку можно загрузить информацию о том, каким инструментом она сгенерирована, но технология цифрового водяного знака не позволяет идентифицировать личность пользователя, публикующего этот контент. Для этой задачи должны применяться биометрия и другие технологии.