Ахмад Шадид из O.XYZ о перспективах и недостатках инструментов программирования на базе ИИ: баланс между инновациями, безопасностью и сложностью

Недавно Себастьян Семятковски, генеральный директор Klarna, глобальной компании, предлагающей платежные решения по принципу «купи сейчас, заплати позже», общие Как инструменты ИИ, такие как Cursor, произвели революцию в разработке прототипов. Он отметил растущую тенденцию к «вибрирующему» кодингу, где ИИ помогает генерировать код с помощью подсказок на естественном языке, оптимизируя рабочие процессы и снижая зависимость от технических команд. Этот подход становится ключевым навыком для разработчиков, и крупные компании всё чаще стремятся освоить инструменты программирования на базе ИИ.

В беседе с Mpost, Ахмад Шадид , Генеральный директор О.XYZ — агентная экосистема комплексной разработки искусственного интеллекта — поделился своими идеями и опытом относительно развития этой тенденции.

Развитие программирования на основе искусственного интеллекта: расширение прав и возможностей нетехнических лидеров, снижение рисков и формирование будущего разработки программного обеспечения

Ахмад Шадид отметил, что руководители, не имеющие технического образования, теперь могут превращать идеи в интерактивные демонстрации всего за несколько часов благодаря инструментам на базе искусственного интеллекта. Это ускоряет разработку продукта и сокращает разрыв между бизнес-целью и разработкой. Однако существуют риски, связанные с ложным ощущением осуществимости, поскольку прототипы могут скрывать такие фундаментальные проблемы, как осуществимость, безопасность и технический долг. Кроме того, руководители могут чрезмерно концентрироваться на том, что может создать инструмент, упуская из виду то, что является жизнеспособным с точки зрения стратегии или техники.

Он также рассказал о наиболее распространенных ошибках, с которыми сталкиваются команды при использовании кода, созданного с помощью ИИ, и предложил способы снижения этих рисков.

«Небезопасная обработка входных данных и слабые шаблоны аутентификации — одни из главных проблем. Эти проблемы безопасности можно решить, внедрив SAST/DAST в CI, используя анализаторы безопасности, сканирование зависимостей и моделирование угроз для функций, исходящих от ИИ. Утечку данных в запросах можно сократить, перенаправляя их через проверенных поставщиков, которые редактируют и защищают конфиденциальную информацию, а также используя шлюзы запросов, сохраняющие конфиденциальность», — сказал Ахмад Шадид. Mpost.

«Дело не только в коде, сгенерированном ИИ. Если человек не инженер или программист, у него часто отсутствует полное понимание того, как устроено программное обеспечение и как выглядит архитектура системы. ИИ хорош ровно настолько, насколько хороши подсказки, верно? Поэтому они не могут правильно давать подсказки ИИ, и это может привести к угрозам безопасности и проблемам, связанным с API во фронтенде и общедоступными базами данных», — продолжил он.

Кроме того, эксперт добавил, что многие инженеры жалуются на то, что когда контекст становится слишком обширным или что-то становится слишком сложным, у ИИ начинаются галлюцинации. Он начинает вносить в код изменения, которые не нужны или не запрашивались явно. ИИ также генерирует тысячи строк кода. Представьте, что вы пытаетесь уследить за случайными изменениями кодовой базы, охватывающими тысячи строк кода.

«В конечном счете, регулярные ограниченные по времени обзоры «без ИИ» крайне важны для поддержания актуальности основ и борьбы с атрофией навыков», — сказал он.

Комментируя вопрос о том, может ли опора на кодирование с использованием ИИ в конечном итоге изменить то, как оцениваются и нанимаются инженеры-программисты в разных отраслях, и как «стиль кодирования» становится востребованным навыком даже в объявлениях о вакансиях, Ахмад Шадид сказал: «Чем меньше сырого набора текста, тем больше системное проектирование, анализ кода, отладка, безопасность и оркестровка данных/ИИ составляют суть продукта. Мы также наблюдаем переход от «внедрения X с нуля» к «критике, защите и расширению кода, созданного ИИ», а также к отработке архитектуры и инцидентов. Рост числа «руководителей парного программирования ИИ», «хранителей кода» и инженеров платформ, которые создают барьеры в программном обеспечении, созданном ИИ, свидетельствует о растущем внедрении кодирования с использованием ИИ».

«Новички часто пропускают основы и сразу переходят к быстрой разработке, не имея ни малейшего представления о том, чего хотят добиться. С другой стороны, опытные инженеры получают преимущество, освобождая больше времени для архитектуры, надежности и достижения желаемых результатов продукта. Четко определенные учебные курсы, культура «прочитай перед записью» и периодические упражнения в «ручном режиме» могут помочь обеспечить эффективное и этичное использование ИИ для написания кода», — отметил он.

Инструменты Vibe Coding полезны, но слишком просты, чтобы заменить традиционные процессы разработки

Одна из проблем заключается в том, что инструменты виброкодирования могут в конечном итоге заменить традиционные процессы кодирования. Однако эксперт отметил, что инструменты виброкодирования слишком просты, чтобы заменить полноценные процессы кодирования.

«Будет ли это частью рабочих процессов кодирования в будущем? Конечно, продуктовые команды действительно выиграют от этого, поскольку смогут быстро создать фронтенд и проверить различные варианты UX-дизайна. Конечно, фрилансеры и любители могут быстро что-то собрать, но это не заменит весь рабочий процесс. На самом деле, разработка сейчас сталкивается с некоторыми трудностями, особенно по мере того, как ИИ становится всё более мощным», — сказал он. Mpost.

«Мы просто не можем угнаться, инструменты не успевают, и мы сталкиваемся с кризисом фрагментации инструментов, когда разработчикам теперь нужно 4-5 инструментов для работы. Каждый раз, когда вы переключаетесь, вы теряете контекст, вы просто не успеваете, и ИИ не успевает; вы не можете отслеживать все изменения в одном инструменте, в другом и так далее», — продолжил Ахмад Шадид.

Проще говоря, существующим инструментам и платформам для кодинга ещё очень далеко до замены традиционных рабочих процессов. Эти инструменты пока несовершенны.

Ахмад Шадид обсуждает будущее ИИ в разработке программного обеспечения: преимущества, риски и необходимость в безопасных масштабируемых решениях

Ахмад Шадид подчеркнул, что современные инструменты и среды разработки готовы к безопасной интеграции кода, созданного с помощью ИИ: «Интеграция с IDE, мощное автодополнение кода, качественные рефакторинги и помощники, работающие с репозиториями, играют важную роль в создании кода, созданного с помощью ИИ», — сказал он. Mpost«Однако существуют пробелы в масштабах предприятия. Единая система аудита предложений ИИ, надёжное применение политик с контролем затрат и возможность бесперебойного использования локальной и частной модели могут потенциально создать серьёзные пробелы на уровне предприятия», — добавил эксперт. 

По мере того, как всё больше руководителей используют инструменты ИИ для быстрого создания прототипов, это может способствовать демократизации инноваций в компаниях. Однако это также несёт в себе риск чрезмерного упрощения сложности разработки программного обеспечения.

Ахмад Шадид считает, что чем больше людей участвует в процессе формирования идей, тем быстрее компании могут их проверять и улучшать кросс-функциональное взаимодействие. Это позволяет разрабатывать и совершенствовать больше идей, превращая их в стабильные решения, предоставляя разработчикам свободу воплощать свои концепции в жизнь с помощью программного обеспечения.

«Использование инструментов ИИ для прототипирования недооценивает сложность обеспечения надежности, работоспособности и масштабируемости, принимая решения на основе демонстрационных данных, которые могут привести к сбоям, если их не контролировать. Эти инструменты упрощают создание прототипов, но затрудняют их поставку без инженерных контрольных показателей качества», — подчеркнул эксперт.

Кроме того, компаниям следует разрешать неинженерам работать в изолированных средах, где приложения запускаются незаметно и конфиденциально. Использование фиктивных/синтетических данных, а также нулевых учётных данных для работы в производственной среде может помочь минимизировать риски утечки данных.

«Чёткие стратегии идентификации системы, такие как одноразовые репозитории и отдельные пространства имён, помогают использовать программы ИИ изолированно. Утверждённые стеки, защищённые шаблоны, встроенные тесты и линтинг обеспечивают надёжную платформу для масштабируемости и устойчивости приложения», — сказал Ахмад Шадид. Mpost.