С развитием технологий искусственного интеллекта (ИИ) процесс разработки программного обеспечения претерпевает значительные изменения. ИИ-инструменты, основанные на больших языковых моделях (LLM), позволяют автоматизировать создание кода, но при этом возникают новые вызовы, связанные с обеспечением качества и безопасности программного продукта.

ИИ в разработке ПО: проблемы доверия и управления

Использование ИИ для написания кода открывает новые возможности, но также создаёт риски, связанные с обеспечением качества и безопасности программного обеспечения. Как отмечает эксперт Фридман, ИИ-инструменты, основанные на LLM, предназначены для выполнения задач, а не для их критического анализа. Это делает необходимым внедрение отдельного уровня управления и доверия, который будет определять, что должно быть реализовано, а что — нет.

В крупных организациях создание качественного кода требует не только интеллектуальных способностей, но и знания специфики работы компании. Однако использование ИИ для быстрого написания кода может привести к появлению скрытых ошибок и уязвимостей. Даже такие инструменты, как Claude Code, могут столкнуться с проблемами, как это произошло при случайной утечке исходного кода из-за ошибки в упаковке.

Для предприятий важно не только ускорить процесс разработки, но и обеспечить правильность, безопасность и соответствие кода внутренним системам и внешним обязательствам. В условиях масштабного использования ИИ-инструментов для автоматической генерации готового к производству кода, узким местом становится не написание программного обеспечения, а его проверка.

Qodo — это инструмент, который анализирует, как разработчики в организации пишут и проверяют код, и превращает это в набор правил, определяющих, что такое «хороший» код для этой компании. Эти правила затем автоматически применяются, отмечая новый код, который их нарушает.

Источник: https://www.aol.com/finance/age-vibe-coding-trust-real-155224904.html

Рост спроса на разработчиков ПО в эпоху ИИ

Несмотря на опасения по поводу замены людей ИИ, рынок труда для разработчиков ПО продолжает расти. Согласно отчёту, количество вакансий для инженеров-программистов увеличилось на 30% в этом году. Это может быть связано с тем, что ИИ-инструменты увеличивают объём создаваемого программного обеспечения.

Однако рост числа приложений в Apple App Store не обязательно означает улучшение качества программного обеспечения. Анонимный инженер-программист из Google предупредил, что массовое производство плохого кода может нанести вред всем, кто пользуется программным обеспечением.

Хотя ИИ может автоматизировать некоторые аспекты разработки, он не заменяет человеческого опыта и экспертизы. Разработчикам ПО всё ещё нужны навыки и знания, чтобы создавать качественное и надёжное программное обеспечение.

Источник: https://gizmodo.com/report-says-software-engineer-job-listings-are-up-30-this-year-2000742638

ИИ и безопасность цепочки поставок ПО

Использование ИИ в разработке ПО также влияет на безопасность цепочки поставок программного обеспечения. Как отмечает Манодж Наир, главный инновационный директор Snyk, старый подход к обеспечению безопасности приложений больше не работает. Разработчики всё чаще используют ИИ для генерации кода, но исследования показывают, что этот код содержит больше уязвимостей.

Проблема усугубляется тем, что многие организации не имеют чёткого представления о том, сколько различных моделей ИИ взаимодействовало с их кодом. Кроме того, существует множество открытых моделей, обучающих наборов данных и других ресурсов, которые могут быть использованы для создания кода.

Автономные атаки становятся определяющей частью угрожающей среды, поскольку разработка с помощью ИИ создаёт новые классы трудно обнаруживаемых проблем.

Источник: https://www.darkreading.com/application-security/ai-is-redefining-software-supply-chain-security