Ахмад Шадид из O.XYZ о перспективах и подводных камнях инструментов кодирования на базе ИИ: балансировка инноваций с безопасностью и сложностью

Кратко

Инструменты на базе ИИ, такие как Cursor, трансформируют процесс разработки прототипов, но эксперты предостерегают от их ограничений и потенциальных рисков упрощения рабочих процессов в программной инженерии.

![Ахмад Шадид из O.XYZ о перспективах и подводных камнях инструментов программирования с поддержкой ИИ: балансировка инноваций с безопасностью и сложностью](https://img-cdn.gateio.im/social/moments-806d28ce99ff7e56c6262e364001968401

Недавно Себастьян Симятковский, генеральный директор Klarna, компании, предоставляющей глобальные платежные решения с услугами "купить сейчас, платить позже", поделился тем, как инструменты ИИ, такие как Cursor, революционизировали процесс разработки прототипов. Он подчеркнул растущую тенденцию кодирования по настроению, при которой ИИ помогает генерировать код с помощью естественных языковых подсказок, упрощая рабочие процессы и снижая зависимость от технических команд. Этот подход становится ключевым навыком для разработчиков, и крупные компании все больше ищут профессионалов, умеющих работать с инструментами кодирования на базе ИИ.

В разговоре с Mpost Ахмад Шадид, генеральный директор O.XYZ — агентной, полнофункциональной экосистемы разработки ИИ — поделился своими мыслями и опытом о эволюции этой тенденции.

Восход ИИ-управляемого программирования: Упрощение жизни нетехническим руководителям, снижение рисков и формирование будущего программной инженерии

Ахмад Шадид отметил, что нетехнические лидеры теперь имеют возможность превращать идеи в кликабельные демонстрации за считанные часы благодаря инструментам с поддержкой ИИ. Это ускоряет открытие продукта и сокращает разрыв в переводе между бизнес-намерениями и инженерией. Однако риски включают ложное чувство осуществимости, так как прототипы могут скрывать основные проблемы, такие как осуществимость, безопасность и технический долг. Кроме того, лидеры могут стать чрезмерно сосредоточенными на том, что инструмент может генерировать, упуская из виду то, что является жизнеспособным с точки зрения стратегии или технологии.

Он также поделился наиболее распространенными ловушками, с которыми сталкиваются команды при использовании сгенерированного ИИ кода, и предложил идеи о том, как смягчить эти риски.

"Небезопасная обработка входных данных и слабые схемы аутентификации являются одними из главных проблем. Эти проблемы безопасности можно смягчить, внедрив SAST/DAST в CI, средства безопасности, сканирование зависимостей и моделирование угроз для функций, которые исходят от ИИ. Утечку данных в подсказках можно уменьшить, направляя через одобренных поставщиков, которые редактируют и защищают секреты, и используя шлюзы для конфиденциальных подсказок," сказал Ахмад Шадид журналу Mpost.

“Дело не только в коде, сгенерированном ИИ. Когда человек не является инженером или программистом, у него часто отсутствует полное понимание того, как создается программное обеспечение и как выглядит архитектура системы. ИИ хорош только настолько, насколько хорош запрос, верно? Поэтому они не могут правильно сформулировать запрос к ИИ, и это может привести к угрозам безопасности и таким проблемам, как API на фронтенде, общедоступные базы данных,” продолжил он.

Кроме того, эксперт добавил, что многие инженеры жалуются на то, что когда контекст становится слишком большим или когда что-то становится слишком сложным, ИИ начинает галлюцинировать. Он начинает вносить изменения в код, которые не были необходимы или которые не были явно запрошены. ИИ также генерирует тысячи строк кода. Представьте, как сложно следить за случайными изменениями в кодовой базе, состоящей из тысяч строк кода.

«В конечном итоге регулярные обзоры без использования ИИ, ограниченные по времени, необходимы для поддержания основ в свежем состоянии и борьбы с атрофией навыков», - сказал он.

Комментируя, может ли зависимость от программирования, основанного на ИИ, в конечном итоге изменить то, как оцениваются и нанимаются программисты в различных отраслях, с тем, что «кодирование по настроению» становится востребованным навыком даже в объявлениях о работе, Ахмад Шадид сказал: «Чем меньше сырого ввода, тем больше системного проектирования, обзора кода, отладки, безопасности и оркестрации данных/ИИ составляют понимание продукта. Мы также наблюдаем сдвиг от ‘реализации X с нуля’ к ‘критике, усилению и расширению кода, созданного ИИ’, плюс архитектура и учения по инцидентам. Рост ‘ведущих по парному программированию с ИИ’, ‘хранителей кода’ и платформенных инженеров, которые создают барьеры в программном обеспечении, сгенерированном ИИ, показывает растущее внедрение программирования на основе ИИ.

«Новички часто пропускают основы и сразу переходят к проектированию подсказок, не имея представления о том, чего они хотят достичь. С другой стороны, опытные инженеры получают преимущества, высвобождая больше времени на архитектуру, надежность и подходящие результаты продукта. Явные учебные треки, культура «читать перед тем, как писать» и периодические упражнения в «ручном режиме» могут помочь обеспечить эффективное и этичное использование ИИ для написания кода», отметил он.

Инструменты Vibe Coding полезны, но слишком просты, чтобы заменить традиционные рабочие процессы разработки

Одной из проблем является то, что инструменты кодирования на основе вибраций могут в конечном итоге заменить традиционные рабочие процессы кодирования. Однако эксперт отметил, что инструменты кодирования на основе вибраций слишком просты, чтобы заменить полноценные рабочие процессы кодирования.

"Станет ли это частью рабочих процессов программирования с этого момента? Конечно, команды продуктов действительно получают от этого пользу, чтобы быстро создать интерфейс и проверить различные дизайны UX, да, фрилансеры и любители могут быстро собрать что-то, но это не может заменить весь рабочий процесс. На самом деле, разработка сейчас сталкивается с некоторыми проблемами, особенно по мере того как ИИ становится все более мощным," сказал он Mpost.

«Мы просто не можем угнаться, инструменты не могут угнаться, и мы сталкиваемся с кризисом фрагментации инструментов, когда разработчики теперь нуждаются в 4, 5 инструментах как части своего рабочего процесса. Каждый раз, когда вы переключаетесь, вы теряете контекст, вы просто не можете угнаться, и ИИ не может угнаться; вы не можете следить за всеми изменениями в одном инструменте и другом, и так далее», продолжал Ахмад Шадид.

Говоря проще, текущие инструменты и платформы для кодирования на основе vib имеют еще очень долгий путь, прежде чем заменить традиционные рабочие процессы кодирования. Эти инструменты все еще неполные.

Ахмад Шадид обсуждает будущее ИИ в разработке программного обеспечения: преимущества, риски и необходимость в безопасных, масштабируемых решениях

Ахмад Шадид подчеркнул, что текущие инструменты и среды разработки готовы к безопасной интеграции кодирования на базе ИИ: "Интеграции IDE, мощное автозавершение кода, приличные рефакторинги и помощники, осведомленные о репозиториях, играют важную роль в создании кода, сгенерированного ИИ," сказал он Mpost. "Однако существуют разрывы на уровне крупных предприятий. Единая аудируемость предложений ИИ, надежное соблюдение политик с контролем затрат и бесшовные варианты моделей на месте/приватных могут потенциально создать значительные разрывы на уровне предприятий," добавил эксперт.

Поскольку все больше руководителей принимают инструменты ИИ для быстрого прототипирования, это может помочь демократизировать инновации внутри компаний. Однако это также несет риск упрощения сложности программной инженерии.

Ахмад Шадид считает, что с большим количеством людей, вовлеченных в процесс генерирования идей, компании могут быстрее проверять идеи и улучшать межфункциональное сотрудничество. Это позволяет разрабатывать и уточнять больше идей, превращая их в стабильные решения, давая создателям свободу реализовывать свои концепции через программное обеспечение.

«Использование инструментов ИИ для прототипирования недооценивает сложность надежности, работоспособности и масштаба, принимая решения, основанные на демо, что может привести к неудаче, если не контролировать процесс. Инструменты облегчают создание прототипов, но усложняют выпуск без инженерного контроля качества», - подчеркнул эксперт.

Кроме того, компаниям следует позволить неинженерам работать в изолированных средах, где приложения работают тихо и конфиденциально. Использование фиктивных/синтетических данных, а также нулевых производственных учетных данных может помочь минимизировать риски утечки данных.

"Четкие стратегии идентификации системы, такие как временные репозитории и отдельные пространства имен, помогают использовать AI-программы в изоляции. Утвержденные стеки, защищенные каркасы, встроенные тесты и линтинг обеспечивают безопасную платформу для масштабируемости и устойчивости приложения," сказал Ахмад Шадид газете Mpost.