ЛовИИсь кодер большой и маленький
На российском IТ-рынке стремительно растет количество вайб-кодеров. Это подход к разработке ПО, когда вместо написания кода традиционным способом разработчик формулирует проблему или желаемую функциональность, а ИИ генерирует соответствующий программный код. Одна из причин — повсеместное сокращение IТ-команд, так как созданный ИИ код заметно дешевле кода, написанного человеком.
Крупные российские компании, включая «Ростелеком», «Яндекс» и «Сбер», активно внедряют искусственный интеллект в процессы разработки ПО. По данным МТС, уже 8% строк кода в их системах генерируются с помощью ИИ, а к 2027 году эта доля может увеличиться до 25%. Компания проанкетировала более 500 программистов, чтобы составить общую картину использования ИИ-ассистентов для разработки программного обеспечения.
Оказалось, что 69% опрошенных программистов хотя бы раз прибегали к помощи ИИ в работе, 47% из них продолжают обращаться к таким решениям: 38% используют их периодически, а 9% — на постоянной основе. Разработчики пользуются тремя сервисами: ChatGPT, CodeGPT и GitHub Copilot. 58% российских разработчиков используют ИИ-ассистентов для генерации кода по текстовому запросу, 57% — для поиска ошибок и дебаггинга, 43% — для написания текстов, 41% — для автодополнения кода.
Однако на данном этапе развития генеративных моделей по качеству и безопасности код, написанный ИИ, пока не может конкурировать с кодом, написанным человеком. Вайб-кодинг упрощает разработку, но несет в себе риски наличия уязвимостей и, как следствие, утечки данных. Недавнее исследование ученых из Техасского университета показало, что почти половина LLM ссылаются на фиктивные библиотеки из-за того, что модели придумывают названия на основе шаблонов, а не реальных данных. Эта проблема дает хакерам возможность для реализации разных типов хакерских атак, если разработчики не проверят зависимости должным образом. Для этого достаточно зарегистрировать содержащий вредоносный код пакет с названием, которое выдумал искусственный интеллект. Если разработчик установит такой пакет, вредоносный код проникнет в его систему.
«Использование нейросетей ведет к потере экспертизы,— согласился директор департамента расследований T.Hunter Игорь Бедеров.— Связано это с тем, что разработчики, полагающиеся на ИИ, теряют навыки ручного анализа кода, что усложняет выявление скрытых угроз».
«Использование ИИ при написании кода полностью оправдано только в том случае, если сгенерированный ИИ код всегда находится под контролем программиста»,— добавил руководитель отдела разработки пользовательского интерфейса компании «Некстби» Григорий Голиков. «Несмотря на то что вайб-код пишется быстро, он подходит только для небольших проектов. При достижении определенного размера проекта полагаться только на него нецелесообразно и опасно. Поддерживать такой код сложно, вводить новый функционал и рефакторить код — тоже»,— обратил внимание эксперт.
«Минимизировать риски атак с использованием ИИ поможет внедрение этических стандартов использования ИИ, введение ограничений на использование сторонних ИИ-сервисов без проверки их безопасности, мониторинг аномалий в IТ-инфраструктуре в режиме реального времени»,— сказал Игорь Бедеров.
Ранее эксперты также раскрыли новый способ применения языковых моделей для кибератак на компании.
Читать статью в полной версии «Коммерсант»
