«Ведомости» узнали о разработке сервиса для маркировки ИИ-контента и его выявления
Компания «Яндекс» совместно с Институтом системного программирования РАН разрабатывает систему маркировки для контента, сгенерированного ИИ, в частности нейросетью «Яндекса» «Шедеврум», пишут «Ведомости» со ссылкой на источники. Представитель компании подтвердил эту информацию, однако сроки готовности разработки в «Яндексе» не назвали
«Яндекс» совместно с Институтом системного программирования Российской академии наук (ИСП РАН) разрабатывает систему маркировки для фото-, видео- и аудиоконтента, сгенерированного ИИ, в частности нейросетью компании «Шедеврум», сообщают «Ведомости» со ссылкой на три источника, знакомых с планами по разработке проекта. Представитель «Яндекса» подтвердил газете эту информацию. Однако сроки готовности разработки там не назвали.
По словам одного из источников издания, речь идет о микроскопическом артефакт-маркере, заметном анализатору, а не о видимом «водяном знаке», который можно закрасить или обрезать. Для проверки изображения на ИИ-генерацию «Яндекс» разрабатывает сервис по распознаванию маркировки, рассказал собеседник «Ведомостей», знакомый с ходом разработки. Он добавил, что технологию могут стандартизировать и выложить в опенсорс для всех участников рынка.
По словам директора департамента расследований T.Hunter Игоря Бедерова, совместная разработка «Яндекса» и ИСП РАН основана на внедрении невидимых цифровых водяных знаков в ИИ-контент, пишет газета. Он пояснил, что такая технология включает в себя два направления исследований. Во-первых, это стеганографические метки, когда в изображения, аудиодорожки или кадры видео внедряются алгоритмические паттерны, которые незаметны человеку, но обнаруживаются специальными инструментами, отметил Бедеров. Во-вторых, технология предполагает выявление артефактов генерации. Речь идет о статистических следах в контенте, остающихся при работе нейросетей.
Однако в случае, если давления со стороны законодателей на сервисы генерации контента по внедрению стандартов борьбы с фейками и штрафов за отсутствие маркировки такого контента не будет, эффективность инициативы уменьшается, указал Бедеров.
Ранее также стало известно, что Роскомнадзор намерен ужесточить требования к онлайн-ресурсам.
Читать статью в полной версии «Forbes»
