人为的发布促使缓存,这让开发者能在API调用之间缓存经常使用的上下文,在其公共测试版API上。 (Emilia David/VentureBeat)

Anthropic 在其 API 上引入了提示缓存,它记住了 API 调用之间的上下文,使开发人员可以避免重复提示。

查看原文