内容分发网络 (CDN) 长期以来一直专注于缓存命中率 (CHR),但您需要了解两个重要问题才能获得最佳性能并为您的组织节省最多资金。
许多人都低估了通过看似“微小”的 CDN 缓存改进来减少流向其来源站的流量并实现巨大的出口节省所能产生的影响。
CHR 并非始终是衡量 CDN 总卸载量的最佳指标。CHR 衡量从缓存处理的请求数,但不考虑数据量,因此,关注实际卸载的字节数(而不仅仅是请求数)的指标可能更有用。
使用更好的 CDN 节省出口流量
出口流量是指从源基础设施传输出的数据量,对于许多组织来说,这是一个重要的成本因素。每个人都知道它对于流媒体行业和提供大量下载服务的公司的重要性,但它对几乎所有行业都同样重要。即使您的许多流量都是高度动态的或经常变化的(包括 API 调用和其他您可能不会想到从缓存中提供的内容),您也可能缓存更多内容,从而提高 CHR 和源卸载性能。
要理解为什么稍微增加源站卸载量就能显 加拿大首席财务官电子邮件列表 著降低源站负载,不妨考虑一下未命中率。当卸载量从 90% 提高到 95% 时,未命中率会从 10% 降至 5%。这意味着未命中率现在减半。由于未命中缓存的请求必须从源站获取,因此将未命中率减半实际上会将源站的负载减半。如果您从 100 GB 的总流量开始,那么一个优秀的 CDN 将卸载 95%,留下 5 GB 到达您的源站。一个好的 CDN 将只卸载 90%,留下 10 GB(两倍)到达您的源站。
CDN 卸载性能提升 5% 意味着源站负载减少 50%(见下文)!一半的缓存未命中和一半的源站流量意味着您可以摆脱 50% 的服务器和一半的成本。如果您一直在尝试优化基础设施以获得性能提升,在这里获得额外的百分之一,在那里获得半个百分点,那么这一切都被更好的 CDN 缓存更多带来的巨大收益所掩盖。
图片2
你可以缓存比你想象的更多的东西(而且它会产生很大的影响)
顶级边缘云平台和 CDN 的表现总是远远优于传统 CDN,甚至比非常优秀的 CDN 好很多,原因有很多。(如果您想了解所有原因,请联系我们!)提高性能指标和源卸载的最简单方法之一是缓存动态内容。API 流量就是一个很好的例子,许多行业认为这些内容过于动态,无法从缓存中获益——想想 SaaS、金融服务、旅游、电子商务、游戏和其他拥有大量 API 和动态内容的行业,这些内容超出了传统 CDN 要求您缓存的范围。对于几乎所有在互联网上运营的人来说,这是一个巨大的错失机会。
Fastly 的即时清除功能很好地展示了更好的 CDN 如何帮助您做更多事情。Fastly 可以在 150 毫秒内清除全局内容(截至 2022 年 12 月 31 日),这意味着从您的源站更新频率低于每 150 毫秒的任何内容都可以从缓存中提供,并且针对该数据的每秒请求数 (RPS) 非常低,即可从您的源站卸载大量流量。
此图表显示了您基础设施中给定 API 或其他数据请求端点的卸载百分比,该百分比基于其刷新新数据的频率(从 200 毫秒到每天一次)与该端点每秒的请求数。您可以看到,即使每 200 毫秒更新一次的数据也可以在仅 10 RPS 的情况下实现高达 50% 的卸载。此图表的大部分为绿色,显示卸载率 > 90%!有了这种好处,每个 API 都应该通过缓存提供。当我们分享 Fastly 客户从我们这里获得189% 的投资回报等统计数据时,这种出口节省是实现这一目标的重要组成部分。