O.XYZ的Ahmad Shadid谈AI驱动编码工具的承诺与陷阱：在创新、安全与复杂性之间取得平衡

简要

像Cursor这样的AI驱动工具正在改变原型开发，但专家警告其局限性和简化软件工程工作流程的潜在风险。

![O.XYZ 的 Ahmad Shadid 谈人工智能编码工具的前景和陷阱：平衡创新与安全性和复杂性](http://img-cdn.gateio.im/social/moments-806d28ce99ff7e56c6262e36400196846574839201

最近，全球支付解决方案公司Klarna的首席执行官Sebastian Siemiatkowski分享了AI工具如Cursor如何彻底改变原型开发。他强调了气氛编码的日益增长趋势，在这种趋势下，AI通过自然语言提示来生成代码，从而简化工作流程并减少对技术团队的依赖。这种方法正成为开发者的一项关键技能，主要公司越来越寻求在AI驱动的编码工具方面的熟练程度。

在与Mpost的对话中，O.XYZ的首席执行官Ahmad Shadid分享了他对这一趋势演变的见解和专业知识。

人工智能驱动编码的崛起：赋能非技术领导者，降低风险，塑造软件工程的未来

阿赫迈德·沙迪德指出，非技术领导者现在有机会在数小时内将想法转化为可点击的演示，这要归功于人工智能驱动的工具。这加速了产品发现，并减少了商业意图与工程之间的翻译差距。然而，风险包括虚假的可行性感，因为原型可能掩盖了可行性、安全性和技术债务等潜在问题。此外，领导者可能过于关注工具可以生成的内容，忽视了从战略或技术角度看可行的内容。

他还分享了团队在使用人工智能生成代码时面临的最常见陷阱，并提供了如何减轻这些风险的见解。

“不安全的输入处理和弱认证模式是主要问题之一。这些安全隐患可以通过在CI中强制执行SAST/DAST、安全代码检查、依赖扫描以及对来自AI的特性的威胁建模来缓解。通过经过批准的提供商进行路由以删除和保护机密，可以减少提示中的数据泄漏，并使用隐私保护的提示网关，”艾哈迈德·沙迪德对Mpost说。

“不仅仅是 AI 生成的代码。当一个人不是工程师或编码员时，他们往往缺乏对软件构建方式和系统架构样貌的全面理解。AI 的效果仅取决于提示，对吧？所以他们无法正确提示 AI，这可能导致安全威胁和前端 API、公共数据库等问题，”他继续说道。

此外，专家还补充说，许多工程师抱怨的一点是，当上下文变得过大或某些事情变得过于复杂时，人工智能开始出现幻觉。它开始在代码中进行不必要的更改，或者是没有明确要求的更改。人工智能还会生成数千行代码。想象一下，在数千行代码中跟踪随机的代码库更改是多么困难。

“最终，定期的时间限制‘无人工智能’评审对于保持基础知识的新鲜感和抵抗技能退化是至关重要的，”他说。

关于依赖人工智能驱动的编码是否最终会重塑软件工程师在各行业中的价值和招聘方式，阿赫迈德·沙迪德（Ahmad Shadid）表示：“原始输入越少，系统设计、代码审查、调试、安全和数据/AI编排就越能弥补产品意识。我们还看到从‘从零开始实现X’转变为‘批判、加固和扩展AI生成的代码’，还有架构和事故演练的变化。‘AI双人编程领导者’、‘代码看护人’和构建AI生成软件中的保护措施的平台工程师的崛起，显示了对人工智能驱动编码的日益接受。”

“初学者常常跳过基础知识，直接进入提示工程，却对他们想要达成的目标毫无头绪。另一方面，经验丰富的工程师获得了杠杆效应，为架构、可靠性和适当的产品结果创造了更多时间。明确的学习轨迹、‘先读后写’的文化以及定期的‘手动模式’练习可以帮助确保高效和伦理地使用人工智能进行编码，”他指出。

Vibe 编程工具是有益的，但过于简单，无法替代传统开发工作流程

其中一个担忧是，vibe 编码工具最终可能会取代传统编码工作流程。然而，专家指出，vibe 编码工具过于简单，无法取代完整的编码工作流程。

“这将成为今后编码工作流程的一部分吗？当然，产品团队确实从中受益，可以快速搭建前端并检查不同的用户体验设计，当然，自由开发者和爱好者也能迅速组装出一些东西，但这无法替代整个工作流程。事实上，目前的开发面临一些挑战，尤其是随着人工智能变得越来越强大，”他对Mpost说。

“我们就是无法跟上，工具无法跟上，我们正面临工具碎片化危机，开发者现在在工作流程中需要4到5个工具。每次切换时，你都会失去上下文，你就是无法跟上，AI也无法跟上；你无法在一个工具和另一个工具之间跟踪所有的变化，等等。”阿赫迈德·沙迪德继续说道。

简单来说，目前的氛围编码工具和平台在取代传统编码工作流程之前还有很长的路要走。这些工具仍然不完整。

Ahmad Shadid 讨论软件开发中人工智能的未来：好处、风险以及对安全、可扩展解决方案的需求

艾哈迈德·沙迪德强调，目前的开发工具和环境已经准备好安全地集成AI驱动的编码：“IDE集成、强大的代码补全、合理的重构以及对代码库的智能助手在生成AI代码方面都起着重要作用，”他对Mpost说。“然而，企业级存在差距。AI建议的统一可审计性、强有力的政策执行与成本控制，以及无缝的本地/私有模型选项可能在企业层面上造成重大差距，”这位专家补充道。

随着越来越多的高管采纳人工智能工具进行快速原型开发，这可能有助于在公司内部实现创新的民主化。然而，它也带来了简化软件工程复杂性的风险。

艾哈迈德·沙迪德认为，随着更多的人参与创意过程，公司可以更快地验证想法，并改善跨职能协作。这使得更多的想法得以发展和完善成稳定的解决方案，让创作者通过软件将他们的概念变为现实。

“使用人工智能工具进行原型设计低估了可靠性、可操作性和规模的复杂性，如果不加以控制，基于演示的决策可能导致失败。这些工具使得原型设计变得简单，但在没有工程质量门槛的情况下，很难实现交付，”专家强调道。

此外，公司应允许非工程师在隔离环境中操作，这些环境可以安静且私密地运行应用程序。使用虚拟/合成数据以及零生产凭证可能有助于最小化数据泄露风险。

“清晰的系统识别策略，如一次性仓库和独立命名空间，有助于在隔离中利用人工智能程序。经过批准的堆栈、安全的脚手架、内置测试和代码检查为应用程序的可扩展性和弹性提供了安全的平台，”Ahmad Shadid对Mpost说道。