使用 GenAI 进行编码：企业如何管理流程

快速阅读: 据《计算机周刊》称，生成式AI虽便利，但代码仍需严格审查。专家提醒：应培训团队正确认识AI局限，加强安全管控与协作监督，确保开发质量与安全。

据行业观察者报道，近年来，随着生成式人工智能（GenAI）工具的普及，缺乏经验的团队成员可能会请求使用这些工具来开发应用程序。然而，科威尔指出，尽管生成的代码看起来非常出色，但其中可能存在安全隐患和逻辑错误。

软件开发过程中，无论是传统方法还是借助AI，确保代码的安全性和可靠性都是至关重要的。提交的代码必须经过安全扫描、验证检查和动态扫描等环节。科威尔强调，即使如此，也无法完全消除代码中的缺陷。

以年龄限制的应用为例，如果代码未能在特定入口点拒绝未成年用户的访问，或用户误操作导致错误输入，这些问题都需要通过严格的审查和验证流程来预防。科威尔认为，所有代码都应受到监督，无论其生成方式如何。

团队内部对工作的详细记录同样重要。麦肯锡的研究显示，利用调查、现有数据和待办事项管理工具可以显著减少客户报告的软件缺陷，比例可达20%至30%。此外，检测AI使用情况的应用发现软件和数据丢失防护（DLP）工具也有助于提升安全性。

代码覆盖率分析工具能追踪功能测试中执行的代码部分，有助于发现测试中未覆盖的区域，这可能是AI引入的冗余或错误代码所致。相关工具还可以识别出与已记录需求不符的条件，AI有时会在代码中加入不必要的内容，以满足特定测试条件。

科威尔特别强调，防范未经授权或不当使用GenAI带来的风险，关键在于培训和教育。组织应当重视这一方面，确保开发团队了解最佳实践，认识到潜在的风险。他建议：“告知你的工程师和使用GenAI的人这些工具的局限性，不要将其视为‘魔法思考箱’，而是一种自然语言问题解决工具，具有有限的记忆力，倾向于快速回应而非寻找具体事实。”

Nash Squared的首席信息官安库尔·安南指出，AI技能短缺是过去15年来科技行业面临的主要挑战之一。这些技能不仅涉及如何利用平台和客户关系管理（CRM），还包括学习提示相关内容及其伴随的责任，如在使用前审计结果。GenAI技能在开发者、产品经理和项目经理中越来越受欢迎，同时也对数据质量和数据治理提出了更高要求。

Nash Squared五月发布的报告显示，具备大型语言模型（LLM）知识的Python开发人员需求增加。在许多职位描述中，GenAI技能已成为加分项。安南认为，这给技术团队带来了更大压力，因为这种需求不仅限于某一领域。

Storyblok的解决方案工程师法昆多·吉亚尼也表示赞同：“由GenAI生成的代码可以作为一个良好的起点，但仍需由熟悉其运作机制和背景的专业人士进行监督。”

综上所述，尽管GenAI为软件开发带来了便利，但控制开发过程的重要性不容忽视，特别是在多个团队协作的情况下。

(以上内容均由Ai生成)