员工让AI写代码“误烧”1215万元！曝亚马逊用Claude干个“小活”却翻车：超预算860%，5个月后才发现

照传统软件开发的角度去看, 这并非是个格外复杂的任务。然而在引入AI之后, 项目运行期间出现了问题, 那就是因为模型调用量持续增加, 再由于缺少有效的成本监控机制, 归根结底让项目产生了大概180万美元的费用。

更为关键之处在于, 亚马逊并未即刻察觉到异常情况。一直到问题持续了大概五个月时间之后, 团队方才意识到, 这个人工智能项目已然消耗了远远超出预期的资源。

一位亚马逊工程师, 他针对这起事故, 在内部会议中表明, 传统系统之中的错误, 常常是很“便宜”的, 其结果无外乎就是程序运行效率降低, 或者白白浪费了一些服务器资源；然而等到团队着手把任务交给 AI 模型之后, 那些错误就有可能变得“灾难性的昂贵”。

毕竟, 传统程序一般是严格依照预设逻辑来运行的, 然而AI Agent它是具有更强自主能力的情况——要是不存在完善的限制机制, 那么一个简单的错误就有可能致使Agent持续去执行任务, 并且会一直不断耗损大量的Token。

最终, 有一个小任务, 原本几分钟就能完成它, 这小任务却会变成一张账单, 一张价值百万美元的账单。

不止 180 万美元，还有两起 AI 超支事件

其中, 180万美元仅仅是亚马逊所察觉到的问题当中的一个, 并且内部报告还揭露了另外两起人工智能成本超出控制情形的案例。

亚马逊某位处于内部高位层面的高级工程师表明, 这些情形并不是孤立发生的只此一件事, 而是企业在大规模地将AI引入之后普遍都会面临出现的新挑战。然而, 亚马逊那一方面也着重指出, 这些案例仅仅只是涉及到少数的团队, 并且并不能够用来代表整个公司对于AI的使用状况:

和任何新技术相同, 我们持续进行着实验, 我们不断展开学习, 我们还在改进AI的使用方式, 这里面涵盖探索怎样提升成本效率。

亚马逊称, 找出在探索阶段少数团队出现的问题, 还把这些问题说成是公司日常AI使用状况, 这是不准确的。毕竟, 亚马逊是全球最大科技企业之一, 当下亚马逊旗下约有30万名企业员工, 每一个季度的营收能超过1800亿美元, 相较于公司整体规模, 这些额外的AI支出真的只是“九牛一毛”。

实际上，这也不是亚马逊第一次遇到 AI 工作流带来的问题。

今年较前的时候, 亚马逊云计算部 AWS 以前有过问题, 是自家 AI 编程助手 Kiro 错误操作弄成的事: 那时 Kiro 拿到了过高权限, 可以像高级工程师那样执行操作那般, 在处理某个问题之际, 它直接选了“删除且重建出现问题的环境”, 最后致使 AWS 遭遇了一回有 13 小时之长的服务中断。

虽然亚马逊对外将这件事归结为“人为错误”, 并且着重表明AI仅仅是“恰巧参与在其中”, 但随后依旧作出了某些调整, 调整内容为: 不再给予AI Agent和工程师相同等级的访问权限, 并限定AI的操作范围。

另外, 亚马逊曾推出过一个内部的排行榜, 这个排行榜是用来展现员工运用AI开发工具的状况的。本来, 此排行榜期望能够激励员工更多地使用AI, 以此提升工作效率, 然而后来却出现了一种被称作“”的现象, 即部分员工为了提升排名, 特意增加AI Token的消耗量。

之后, 本来是用来推行 AI 的体制, 反倒致使公司的 AI 成本有所增长, 最终亚马逊还把这个排行榜给关掉了。

不仅要会用 AI，还要会“管”

其实亚马逊遇到的问题，如今正在整个科技行业蔓延。

在近些年, 诸多企业纷纷促使员工运用AI。其目的在于凭借更多Token消耗来换取更高的生产效率。然而, 却有日趋增多的声音开始提出疑问。那便是大量采用AI, 真的等同于创造出更多价值吗?

比如说, Uber的CTO曾讲过, 激励员工大量运用AI, 没办法直接证实企业能够交出更成功的产品。与此同时, 伴着AI Agent的普及, 还有、等模型厂商改变收费方式, 许多企业发觉AI成本正在迅速上升。

有一些公司, 甚至发觉, 要是不加以严格管控, 那原本规划了一整年的 AI 预算, 有可能在几周之内就被耗费枯竭。对于像是亚马逊、微软这般有着巨大现金流的科技巨头来讲, 这些成本暂时还能够承受。然而对于大多数普通企业而言, 持续失去控制的 AI 支出明显没有办法长期维系。

往昔岁月里, 企业忧心程序员产出之 Bug；未来时日中, 企业或许还得顾虑 AI Agent 所撰之“昂贵 Bug”, 倘若缺了完备控制机制, AI 极有可能变成一个持续侵吞预算且名为“数字黑洞”的存在。

或许, 处于 AI 时代的时候, 将, 比说会不会去对 AI进行操作使用, 这样还要更为重要的一个问题, 那则便是能不能有效去管理好 AI 这件事情了。

参考链接：