O.XYZ’s Ahmad Shadid sobre a promessa e as armadilhas das ferramentas de codificação alimentadas por IA: equilibrando inovação com segurança e complexidade

Em Resumo

Ferramentas alimentadas por IA como o Cursor estão a transformar o desenvolvimento de protótipos, mas os especialistas alertam para as suas limitações e os potenciais riscos de simplificar em demasia os fluxos de trabalho de engenharia de software.

![Ahmad Shadid da O.XYZ sobre a Promessa e os Perigos das Ferramentas de Codificação com Inteligência Artificial: Equilibrando Inovação com Segurança e Complexidade](https://img-cdn.gateio.im/social/moments-806d28ce99ff7e56c6262e364001968401

Recentemente, Sebastian Siemiatkowski, CEO da Klarna, uma empresa global de soluções de pagamento que oferece serviços de "compre agora, pague depois", compartilhou como ferramentas de IA como o Cursor revolucionaram o desenvolvimento de protótipos. Ele destacou a crescente tendência da vibe coding, onde a IA ajuda na geração de código através de prompts em linguagem natural, simplificando fluxos de trabalho e reduzindo a dependência de equipes técnicas. Esta abordagem está se tornando uma habilidade chave para desenvolvedores, com grandes empresas cada vez mais buscando proficiência em ferramentas de codificação impulsionadas por IA.

Num conversa com a Mpost, Ahmad Shadid, CEO da O.XYZ—um ecossistema de desenvolvimento de IA completo e agente—compartilhou suas percepções e expertise sobre a evolução desta tendência.

A Ascensão da Programação Orientada por IA: Capacitando Líderes Não Técnicos, Mitigando Riscos e Moldando o Futuro da Engenharia de Software

Ahmad Shadid observou que os líderes não técnicos agora têm a oportunidade de transformar ideias em demos clicáveis em poucas horas, graças a ferramentas impulsionadas por IA. Isso acelera a descoberta de produtos e reduz a lacuna de tradução entre a intenção comercial e a engenharia. No entanto, os riscos incluem uma falsa sensação de viabilidade, uma vez que os protótipos podem ocultar problemas subjacentes como viabilidade, segurança e dívida técnica. Além disso, os líderes podem se tornar excessivamente focados no que a ferramenta pode gerar, negligenciando o que é viável do ponto de vista estratégico ou técnico.

Ele também compartilhou as armadilhas mais comuns que as equipes enfrentam ao usar código gerado por IA e ofereceu insights sobre como mitigar esses riscos.

“O manuseio de entradas inseguras e padrões de autenticação fracos estão entre os principais problemas. Essas preocupações de segurança podem ser mitigadas pela imposição de SAST/DAST em CI, linters de segurança, verificação de dependências e modelagem de ameaças em recursos que se originam da IA. O vazamento de dados em prompts pode ser reduzido ao passar por provedores aprovados que redigem e protegem segredos, e usando gateways de prompt que preservam a privacidade,” disse Ahmad Shadid ao Mpost.

“Não se trata apenas do código gerado por IA. Quando uma pessoa não é engenheiro ou programador, muitas vezes falta-lhe uma compreensão abrangente de como o software é construído e como é a arquitetura do sistema. A IA é tão boa quanto o comando, certo? Portanto, elas não conseguem dar o comando adequado à IA, e isso pode resultar em ameaças à segurança e problemas como APIs na interface, bases de dados públicas,” continuou ele.

Adicionalmente, o especialista acrescentou que algo de que muitos engenheiros se queixam é que quando o contexto se torna muito grande ou quando algo se torna demasiado complexo, a IA começa a alucinar. Ela começa a fazer alterações no código que não eram necessárias ou que não foram explicitamente pedidas. A IA também gera milhares de linhas de código. Imagine tentar acompanhar as alterações aleatórias na base de código em milhares de linhas de código.

“No final, as revisões regulares em intervalos de tempo definidos sem IA são essenciais para manter os fundamentos atualizados e combater a atrofia de habilidades,” disse ele.

Comentando se a dependência da codificação impulsionada por IA poderia eventualmente remodelar a forma como os engenheiros de software são valorizados e contratados em várias indústrias, com a "codificação de vibe" tornando-se uma habilidade procurada mesmo em anúncios de emprego, Ahmad Shadid afirmou que: "Quanto menos digitação bruta, mais design de sistema, revisão de código, depuração, segurança e orquestração de dados/IA compensam o sentido do produto. Também vimos uma mudança de 'implementar X do zero' para 'criticar, reforçar e estender o código produzido por IA', além de arquitetura e simulações de incidentes. O surgimento de 'líderes de programação em par com IA', 'custódios de código' e engenheiros de plataforma que constroem barreiras em software gerado por IA mostra um aumento na adoção da codificação impulsionada por IA."

“Os novatos muitas vezes pulam os fundamentos e saltam diretamente para a engenharia de prompts sem ideia do que querem alcançar. Por outro lado, os engenheiros experientes ganham vantagem, gerando mais tempo para arquitetura, confiabilidade e resultados de produtos adequados. Trilhas de aprendizagem explícitas, uma cultura de ‘ler antes de escrever’ e exercícios periódicos de ‘modo manual’ podem ajudar a garantir o uso eficiente e ético da IA para escrever código,” observou ele.

As Ferramentas de Codificação Vibe São Benéficas, Mas Muito Simples Para Substituir Fluxos de Trabalho de Desenvolvimento Tradicionais

Uma das preocupações é que as ferramentas de vibe coding poderiam eventualmente substituir os fluxos de trabalho de codificação tradicionais. No entanto, o especialista observou que as ferramentas de vibe coding são simplesmente demasiado simples para substituir fluxos de trabalho de codificação completos.

“Fará parte dos fluxos de trabalho de codificação a partir de agora? Claro, as equipas de produto beneficiam realmente disto para rapidamente implementar um frontend e verificar diferentes designs de UX, claro, os desenvolvedores freelancers e os entusiastas podem rapidamente montar algo, mas isso não pode substituir todo o fluxo de trabalho. De fato, o desenvolvimento neste momento está a enfrentar alguns desafios, especialmente à medida que a IA se torna cada vez mais poderosa,” disse ele à Mpost.

“Simplesmente não conseguimos acompanhar, as ferramentas não conseguem acompanhar, e estamos enfrentando uma crise de fragmentação de ferramentas onde os desenvolvedores agora precisam de 4, 5 ferramentas como parte do seu fluxo de trabalho. Cada vez que você troca, perde o contexto, simplesmente não consegue acompanhar, e a IA não consegue acompanhar; você não consegue acompanhar todas as mudanças em uma ferramenta e na outra, etc.,” continuou Ahmad Shadid.

Para simplificar, as ferramentas e plataformas de codificação atuais ainda têm um longo caminho a percorrer antes de substituir os fluxos de trabalho de codificação tradicionais. Essas ferramentas ainda estão incompletas.

Ahmad Shadid Discute O Futuro Da IA No Desenvolvimento De Software: Benefícios, Riscos E A Necessidade De Soluções Seguras E Escaláveis

Ahmad Shadid destacou que as ferramentas e ambientes de desenvolvimento atuais estão preparados para integrar de forma segura a codificação impulsionada por IA: “As integrações de IDE, o forte preenchimento de código, boas refatorações e assistentes cientes do repositório desempenham um papel importante na produção de código gerado por IA,” disse ele à Mpost. “No entanto, existem lacunas em escala empresarial. Uma auditabilidade unificada das sugestões de IA, uma aplicação robusta de políticas com controles de custo e opções de modelos on-prem/private sem costura poderiam potencialmente criar grandes lacunas a nível empresarial,” acrescentou o especialista.

À medida que mais executivos adotam ferramentas de IA para prototipagem rápida, isso pode ajudar a democratizar a inovação dentro das empresas. No entanto, também acarreta o risco de simplificar em demasia a complexidade da engenharia de software.

Ahmad Shadid acredita que com mais pessoas envolvidas no processo de ideação, as empresas podem validar ideias mais rapidamente e melhorar a colaboração entre funções. Isso permite que mais ideias sejam desenvolvidas e refinadas em soluções estáveis, dando aos criadores a liberdade de trazer seus conceitos à vida através do software.

“O uso de ferramentas de IA para prototipagem subestima a complexidade da fiabilidade, operabilidade e escala, fazendo decisões impulsionadas por demonstrações que podem levar ao fracasso se não forem monitorizadas. As ferramentas facilitam a prototipagem, mas dificultam a entrega sem a qualidade de engenharia das Gate,” destacou o especialista.

Além disso, as empresas devem permitir que não engenheiros operem em ambientes isolados que executam as aplicações de forma silenciosa e privada. O uso de dados fictícios/sintéticos, bem como credenciais de produção zero, pode ajudar a minimizar os riscos de vazamento de dados.

“Estratégias claras de identificação do sistema, como repositórios descartáveis e namespaces separados, ajudam a aproveitar os programas de IA de forma isolada. Pilhas aprovadas, andaimes seguros, testes integrados e linting oferecem uma plataforma segura para a escalabilidade e resiliência da aplicação,” disse Ahmad Shadid ao Mpost.