Опубликовано руководство по инфобезу в сфере ИИ

CISA в компании с ИБ-министерствами других стран опубликовали руководство по инфобезу в бурно развивающейся отрасли — ИИ-моделях. Помимо таких приоритетных направлений, как кастрирование языковых моделей борьбой с «дискриминацией» и «предубеждениями», в нём рассмотрены и более насущные темы. А именно вопросы безопасного проектирования, разработки, деплоя и поддержки ИИ, охватывая весь жизненный цикл разработки.

Главной амбицией руководства выступает насаждение в отрасли инфобез-единорога «Secure by design». Оно также затрагивает вопрос новинок от мира атак в сфере языковых моделей — внедрение промтов и отравление данных для обучения нейронок. Подробнее о перспективных стандартах в мире ИИ-разработки в документе.