В России появится сервис для маркировки ИИ-контента и его выявления
Компания «Яндекс» совместно с Институтом системного программирования Российской академии наук (ИСП РАН) разрабатывает систему маркировки для фото-, видео- и аудиоконтента, сгенерированного искусственным интеллектом (ИИ), в частности нейросетью «Яндекса» для генерации картинок «Шедеврум». Об этом «Ведомостям» рассказали три источника, знакомых с планами по разработке проекта, и подтвердил представитель «Яндекса». Сроки готовности разработки в компании не уточнили.
По словам одного из источников издания, речь идет о микроскопическом артефакт-маркере, заметном анализатору, а не о видимом «водяном знаке», который можно закрасить или обрезать. Для проверки изображения на ИИ-генерацию «Яндекс» разрабатывает сервис по распознаванию маркировки, рассказал собеседник «Ведомостей», знакомый с ходом разработки. Он добавил, что технологию могут стандартизировать и выложить в опенсорс для всех участников рынка.
По словам директора департамента расследований T.Hunter Игоря Бедерова, совместная разработка «Яндекса» и ИСП РАН основана на внедрении невидимых цифровых водяных знаков в ИИ-контент, пишет газета. Он пояснил, что такая технология включает в себя два направления исследований. Во-первых, это стеганографические метки, когда в изображения, аудиодорожки или кадры видео внедряются алгоритмические паттерны, которые незаметны человеку, но обнаруживаются специальными инструментами, отметил Бедеров. Во-вторых, технология предполагает выявление артефактов генерации. Речь идет о статистических следах в контенте, остающихся при работе нейросетей.
Однако в случае, если давления со стороны законодателей на сервисы генерации контента по внедрению стандартов борьбы с фейками и штрафов за отсутствие маркировки такого контента не будет, эффективность инициативы уменьшается, указал Бедеров.
Ранее также стало известно, что Роскомнадзор намерен ужесточить требования к онлайн-ресурсам.
Читать статью в полной версии «Ведомости»
