Anthropic表示,其API中现在已经提供了用于缓存常用上下文的提示缓存功能,使开发人员能够在API调用之间进行缓存。 (Emilia David/VentureBeat)

Anthropic在其API中引入了提示缓存,它可以记住API调用之间的上下文,使开发人员可以避免重复提示。

查看原文