哪些 AI 模型最适合 vibe 编码?

发布时间:2025年4月25日    来源:szf
哪些 AI 模型最适合 vibe 编码?

快速阅读: 据《ITProPortal》称,研究显示,AI生成代码虽流行但安全性存疑,40%-90%的代码可能易受攻击。尽管八成企业已采用,超半数视其为标准做法,但安全隐忧持续存在,需加强人工审核。

订阅ITPro每日快讯

Vibe编码已成为软件开发领域的最新趋势,开发者正在加大使用人工智能工具来自动化代码生成。然而,新的研究表明,这可能会产生明显不安全的代码,引发了对于那些跟风采用这一技术的开发者来说最佳选择是什么的疑问。

应用安全公司Backslash Security测试了OpenAI的GPT、Anthropic的Claude和Google的Gemini模型的七个当前版本,并检查了生成代码的安全性。他们使用了三个层次的提示技巧,从“天真”到“全面”,以生成日常用途的代码,例如“添加一个反馈评论部分”。研究人员随后测试了代码输出对十种常见弱点枚举(CWE)用例的弹性。

“天真的”提示仅要求大型语言模型为特定应用程序生成代码,未指定安全性要求。研究发现,所有这些生成的代码均存在安全隐患,并至少容易受到10个常见CWE中的四种影响。

一般指明安全需求的提示生成了更安全的结果,而那些要求符合开放Web应用程序安全项目(OWASP)最佳实践的提示表现更好。即便如此,在这些提示下,七种大型语言模型(LLM)中仍有五种产生了代码漏洞。

“天真的”提示仅要求大型语言模型为特定应用程序生成代码,未指定安全性要求。研究发现,所有这些生成的代码均存在安全隐患,并至少容易受到10个常见CWE中的四种影响。

“对于安全团队而言,AI生成的代码——或者说vibe编码——可能就像一场噩梦,”Backslash Security的联合创始人兼首席技术官Yossi Pik说。“它带来了大量新代码,同时伴随着大型语言模型的风险,如幻觉效应和提示敏感性。”

订阅ITPro每日快讯

今天注册并您将免费获得我们《未来聚焦2025》报告的一份副本——这是根据700多位高级管理人员提供的关于人工智能、网络安全和其他IT挑战的领先指导。

请与我联系,让我了解Future品牌或赞助商的新闻和优惠。

总体而言,研究人员发现,在每个级别上表现最差的是OpenAI的GPT-4o。使用“天真的”提示时,它在生成安全代码方面的得分为10分中的1分——即使被要求生成安全代码,仍然产生了对10个问题中的8个易受攻击的输出。

GPT-4.1在“天真的”提示下表现略好,得分为10分中的1.5分。

Claude 3.7 Sonnet或许是vibe编码的最佳选择。

值得注意的是,表现最好的是Claude 3.7 Sonnet,在使用“天真的”提示时得分6/10,在使用注重安全性的提示时得分10/10。

总体而言,研究人员发现,如果开发者在每个提示中不考虑安全性,他们收到的代码中有40%到90%可能是不安全且易受攻击的。

“我们的相对简单研究得出的发现表明,就其安全编码结果的成熟度而言,vibe编码和使用AI代码助手仍处于起步阶段,”研究人员总结道。

“我们不能简单地依赖开发人员提出安全性要求,或者以最有效的方式这样做。开发人员仍在学习提示工程本身,不应期待他们是安全专家,更不用说安全提示专家了。”

AI代码生成很流行,但担忧依然存在

长期以来,人们对AI生成代码的担忧一直在上升,开发人员和安全从业者都报告了混合结果。

去年9月,网络安全公司Venafi的研究显示,英国、美国和德国几乎所有的安全领导者都担心AI生成的代码可能导致安全漏洞。

值得注意的是,92%的安全领导者质疑通过生成式AI产生的代码的完整性以及在使用AI工具时缺乏监督。

尽管存在这些担忧,AI生成的代码在企业开发实践中变得越来越普遍。超过八成(83%)的受访者表示他们已经在使用AI生成代码,超过一半(57%)的人表示在编码中使用AI正成为一种标准做法。

一些主要行业的参与者对AI代码生成的潜力持乐观态度,包括谷歌。去年11月,Sundar Pichai透露谷歌内部25%的源代码现在是由AI生成的。

尽管存在这些担忧,AI生成的代码在企业开发实践中变得越来越普遍。超过八成(83%)的受访者表示他们已经在使用AI生成代码,超过一半(57%)的人表示在编码中使用AI正成为一种标准做法。

Pichai表示,这家科技巨头正在加大在开发团队中使用AI的力度,以提高生产力和效率,但他强调,任何使用AI生成的代码仍然需要经过严格的人类审批。

尽管存在这些担忧,AI生成的代码在企业开发实践中变得越来越普遍。超过八成(83%)的受访者表示他们已经在使用AI生成代码,超过一半(57%)的人表示在编码中使用AI正成为一种标准做法。

更多来自ITPro的内容

随着开发人员应对AI应用缺陷,红队方法逐渐显现。

影子AI正在悄然渗透进软件开发领域。

AI工具并未帮助开发人员节省软件测试时间。

(以上内容均由Ai生成)

你可能还想读

美国能源部 17 个国家实验室全景及创世纪计划战略布局分析

美国能源部 17 个国家实验室全景及创世纪计划战略布局分析

快速阅读: 美国能源部17个国家实验室构成顶尖科研体系,在基础科学、能源安全、气候变化等领域发挥关键作用。拥有全球领先的超算资源及顶尖人才,年经费约220亿美元。随着“创世纪计划”启动,实验室将形成协同网络,推动美国在清洁能源、量子计算等前 […]

发布时间:2025年12月8日
谷歌Gemini 3 Pro发布

谷歌Gemini 3 Pro发布

快速阅读: 谷歌发布新一代推理模型Gemini 3 Pro,显著提升数学、编程和视觉理解能力。一经发布,Gemini 3 Pro几乎横扫各大评测榜单,在LMArena大模型竞技场中以1501的Elo得分高居榜首。在MathArena数学竞赛 […]

发布时间:2025年11月19日
独具创新,直击痛点:深度解析华为十大最新方案

独具创新,直击痛点:深度解析华为十大最新方案

快速阅读: 第三个方案,是华为的U6GHzAAU天线。综合来看,华为的U6GAAU,真正实现了容量覆盖双优,助力全球U6G商用。LampSiteX,是LampSite系列的最新型号。第五个方案,是华为有源天线产品——EasyAAU。Easy […]

发布时间:2025年11月13日
Palantir估值承压仍领跑AI赛道

Palantir估值承压仍领跑AI赛道

快速阅读: 近期,美国AI概念股整体承压,Palantir与英伟达遭遇做空传闻,引发市场短暂震荡。然而,在宏观调整与估值质疑中,Palantir仍凭借强劲业绩与差异化AI布局维持长期增长势头。分析人士认为,该公司正处于由“政府数据支撑”向“ […]

发布时间:2025年11月12日
Palantir与Snowflakes深化AI合作

Palantir与Snowflakes深化AI合作

快速阅读: Snowflake 与 Palantir 宣布建立战略合作,整合双方的数据与AI能力,使企业能够在统一的数据基础上直接调用 Palantir 的AI分析与智能应用工具,加速企业级AI落地。 2025年10月,Snowflake […]

发布时间:2025年11月10日
Palantir与迪拜控股共建AI公司

Palantir与迪拜控股共建AI公司

快速阅读: Dubai Holding 与 Palantir 宣布成立合资公司 Aither,致力于为中东地区政府与企业提供人工智能转型解决方案。该合作标志着 Palantir 在中东技术布局的进一步深化,也为当地公共服务与产业数字化提供新 […]

发布时间:2025年11月10日
Palantir携手Lumen共建企业AI平台

Palantir携手Lumen共建企业AI平台

快速阅读: 2025年10月,Palantir Technologies与Lumen Technologies宣布达成战略合作,联合打造面向企业级应用的人工智能服务平台。双方将以Palantir的Foundry与AIP平台为核心,推动通信与 […]

发布时间:2025年11月7日
Palantir携手Hadean拓展英国国防部AI战场模拟平台

Palantir携手Hadean拓展英国国防部AI战场模拟平台

快速阅读: 2025年10月,数据智能公司 Palantir Technologies 宣布与英国分布式计算企业 Hadean 达成战略合作,双方将共同为英国国防部(UK Ministry of Defence, UK MoD)扩展基于人工 […]

发布时间:2025年11月7日