亚马逊已将其人工智能的未来押注在Anthropic 身上，向这家初创公司投资 80 亿美元，并通过亚马逊云科技（AWS）大力向客户推广其 AI 技术。但现在，AWS 因限制 Anthropic 的 AI 功能或许面临反弹。
• AWS 高层将 Bedrock 的容量问题称为“灾难性事故“
• 不满的客户选择直接向 Anthropic 购买模型，谷歌可能受益于 AWS 客户的这一转向
但AWS 搞砸了 Bedrock 这项关键服务——客户本可通过该服务基于 Anthropic 的 AI 模型构建应用。
据消息人士透露，以及两家服务 AWS 客户的咨询公司表示，使用过 Bedrock 的客户抱怨其应用程序接口（API）对 Anthropic 模型的使用量施加了随意限制，且缺乏他们所需的功能。
AWS 代表表示，此类使用限制在业内很常见。然而，该问题表明 AWS 要么没有足够的服务器容量来支持 Anthropic 的使用，要么是为某些大客户保留了过量的资源。在AWS 内部，一些高层领导最近将 Bedrock 容量问题称为一场“灾难”。
一位咨询公司高管表示，如果这些问题持续存在，AWS 可能会失去那些未来可能成为云应用大客户的初创企业的青睐。谷歌作为AWS 的主要竞争对手，同样投资了 Anthropic，有望从 Bedrock 的问题中获益。
多位客户表示，由于Bedrock 的问题，他们现在转而通过 Anthropic 官网的自主 API 获取模型访问权限。
据一位AWS 高管透露，Anthropic 除使用 AWS 服务器外，还借助谷歌的服务器支撑其 API 业务。这种同时调用两家云服务商的能力，或许解释了仅能访问亚马逊服务器的 Bedrock 与 Anthropic 自有 API 之间的容量差距。这也意味着谷歌可能正攫取本应属于 AWS 的收入。
AWS 发言人 Kate Vorys 通过邮件声明称，已有“数万客户“通过 Bedrock 使用 Anthropic 模型，随着更多客户将生成式 AI 集成至其业务运营的云端应用中，该服务正面临“前所未有的需求“。
AWS 在 Bedrock 中采用速率限制，以确保所有客户能“公平获取”热门 AI 模型资源，并在其云服务器业务 EC2 等服务中“保护技术安全与连续性”，Vorys 表示。
AWS的Bedrock服务暴露容量与功能短板
据参与讨论的人士透露，AWS 高层近期就快速增长的新创公司 Lovable 可能弃用 Bedrock 表示担忧，因 AWS 难以支撑该公司对 Anthropic 模型的使用需求。Lovable 致力于帮助非工程师群体利用 AI 编写应用程序代码。
Lovable 公司的CEO 安东·奥西卡证实，正在使用 Anthropic 的 API。“我知道我们希望获得最优条款，并且需要最新的功能，而这些最新功能会优先出现在 Anthropic 上，”奥西卡未进一步说明地说道。
Bedrock 的一个替代方案是 Vertex，这是谷歌云提供的类似服务，同样托管了 Anthropic 的模型。一位谷歌云发言人表示，目前有超过 4000 名客户通过 Vertex 使用 Anthropic 的模型，较去年夏季的约 2000 名有所增长。
自AWS 一年半前推出 Bedrock 服务以来，容量短缺问题一直存在。但据包括 AI 编程和教育初创公司创始人在内的客户反映，过去几个月使用该服务时遇到的错误信息频率和严重性有所增加。
本月Bedrock 容量限制的一个实例中，据一家与该客户合作的咨询公司透露，AWS 告知某客户每分钟仅能调用 Anthropic 的 Claude Sonnet 3.7 模型五次。
而同等价格下，Anthropic 自有 API 的最低使用层级允许客户每分钟发送多达 50 次请求。（一位 AWS 员工和咨询公司高管表示，AWS 客户有时可通过联系支持团队获得更高请求限制。）
Anthropic 产品副总裁 Michael Gerstenhaber 表示，AWS 和谷歌正在为 Anthropic 投资更多服务器，Bedrock 存在的任何问题都可能是暂时的。
去年12 月，Anthropic 推出了提示缓存功能，确保开发者无需反复向 AI 模型提供相同的背景信息。而亚马逊直到本月早些时候才在 Bedrock 平台上提供相同的功能。
AWS 同样通过 Bedrock 平台分发其自研的 AI 模型系列 Amazon Nova，该系列于去年 12 月首次亮相，且似乎未出现与 Bedrock 上 Anthropic 模型相同的容量问题。
仍然具有安全优势
诚然，亚马逊仍是云计算领域无可争议的霸主，甚至部分AWS 客户表示，尽管 Bedrock 存在问题，他们并不打算将所有支出转向 Anthropic 的 API。这是因为相较于成立时间较短的 Anthropic，他们更信任 AWS 处理客户数据的安全能力。
截至去年秋季，包含Bedrock 在内的 AWS 人工智能业务年收入已突破 20 亿美元，且“继续保持三位数的同比增长率“，亚马逊 CEO 安迪·贾西在 10 月的财报电话会议上表示。（AWS 在 2024 年实现了 1076 亿美元营收。）
亚马逊并非唯一一家在吸引或服务部分AI API 客户方面遇到困难的主要云服务提供商。截至去年，使用 OpenAI API 的客户数量超过了通过微软 Azure 云 API 访问 OpenAI 模型的客户，部分原因是客户表示 OpenAI 在根据需求定制 AI 方面比微软做得更好 。
此外，谷歌去年在吸引客户使用其Gemini AI 模型方面也遭遇困境 ，因为开发者发现与竞争对手的技术相比，这些模型过于复杂难用。
但AWS 的领导层似乎意识到了其中的利害关系。
在最近的管理层重组中，AWS 将 Bedrock 业务划归其 EC2 云服务器业务负责人 David Brown 管辖，该部门长期以来一直是这家云服务提供商最大的收入来源。Brown 于 2007 年加入亚马逊，在满足 AWS 最大客户容量需求方面拥有丰富经验。
瓶颈解决方案
据两位与AWS 有业务往来的人士透露，部分 AWS 客户通过创建多个账户（每个账户拥有独立的容量配额）并开发应用程序从这些账户的聚合容量中获取资源，成功绕过了 Bedrock API 的访问限制。
目前，亚马逊建议需要更多容量的客户使用一项名为Provisioned Throughput 的服务，该服务允许客户支付额外费用以保证一定水平的计算资源。这项服务专为拥有数千名同时用户的大规模应用程序设计，按小时向客户收费，而不是基于 AI 模型为应用程序处理的数据量（即按 token 计费）。
两家与AWS 客户合作的咨询公司高管表示，客户发现很难预测他们需要使用预置吞吐量的时间，而基于令牌的计费方式对他们来说更容易操作。（微软和谷歌也提供类似服务，按令牌向客户收费。）
亚马逊在将Anthropic 自身 API 客户已享有的某些功能引入 Bedrock 版本时也行动迟缓。
去年 12 月，Anthropic 推出了提示缓存功能，确保开发者无需反复向 AI 模型提供相同的背景信息。而亚马逊直到本月早些时候才在 Bedrock 中提供相同功能。”Anthropic的API 在过去一年左右有了显著改进，“与 AWS 和 Anthropic 客户合作的 Innovative Solutions 公司首席技术官兼产品官 Travis Rehl 表示。
Praxis AI 是一家为大学教授开发虚拟助教的六年初创公司，其总裁兼首席执行官 David James Clarke IV 表示，由于 Bedrock 的 Anthropic 模型缺乏提示缓存功能，公司已转而使用 Anthropic 自己的 API。
克拉克表示他总体上仍坚持使用AWS，“AWS 技术栈中还有太多其他技术，我远未考虑换平台，但我确实希望看到 AWS 在推出新功能方面能更进一步。“
并非所有Bedrock 客户都遇到过容量问题。网络安全软件供应商 Druva 利用 Bedrock 接入 Anthropic 等公司的 AI 技术，开发了一款帮助企业在遭遇勒索软件攻击后制定应对方案的聊天机器人，该公司表示未遭遇任何限流情况。
参考资料
https://www.theinformation.com/articles/aws-faces-backlash-limits-anthropics-ai?rc=o6xpry
编译：ChatGPT
（文：Z Potentials）