Meta展示透明内存分流技术 让每台服务器内存节省20%-32%

日前,Meta 工程团队展示了名为透明内存分流(Transparent Memory Offloading​,简称 TMO)的 Linux 内核技术,目前已经在 Facebook/Meta 服务器中投入使用。

日前,Meta 工程团队展示了名为透明内存分流(Transparent Memory Offloading​,简称 TMO)的 Linux 内核技术,目前已经在 Facebook/Meta 服务器中投入使用。

日前,Meta 工程团队展示了名为透明内存分流(Transparent Memory Offloading​,简称 TMO)的 Linux 内核技术,目前已经在 Facebook/Meta 服务器中投入使用。在 Meta 的数据中心内,这种 TMO 功能在其数百万台服务器中为每台服务器节省了 20~32% 的内存。

Meta展示透明内存分流技术 让每台服务器内存节省20%-32%

对于 TMO 技术,Meta 官方对其的描述为:

  • 一种新的 Linux 内核机制,可实时测量由于 CPU、内存和 I/O 资源短缺而导致的工作丢失。在此信息的指导下,在没有任何应用知识的情况下,TMO 会自动调整内存量以卸载到异构设备,例如压缩内存或 SSD。它根据设备的性能特征和应用程序对较慢内存访问的敏感性来执行此操作。 TMO 不仅从应用程序容器而且从提供基础设施级功能的 Sidecar 容器中全面识别卸载机会。

TMO 已经在生产环境中运行了一年多,在我们庞大的数据中心机群中的数百万台服务器上节省了 20% 到 32% 的总内存。我们已经成功地将 TMO 的操作系统组件上传到 Linux 内核中。

Meta展示透明内存分流技术 让每台服务器内存节省20%-32%

Meta展示透明内存分流技术 让每台服务器内存节省20%-32%

Meta展示透明内存分流技术 让每台服务器内存节省20%-32%

Linux 内核方面的工作包括内核中的压力失速信息 (PSI),然后在用户空间中,他们将“Senpai”作为用户空间代理。

Meta展示透明内存分流技术 让每台服务器内存节省20%-32%

Meta展示透明内存分流技术 让每台服务器内存节省20%-32%

Meta展示透明内存分流技术 让每台服务器内存节省20%-32%

Meta展示透明内存分流技术 让每台服务器内存节省20%-32%

分流通常是在 NVMe 固态驱动器上完成的,从每 GB 费用来看它比服务器内存更便宜。即将推出的具有 Compute Express Link (CXL) 的服务器平台在使用透明内存卸载方面也具有很大的潜力。

©本文为清一色官方代发,观点仅代表作者本人,与清一色无关。清一色对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。本文不作为投资理财建议,请读者仅作参考,并请自行承担全部责任。文中部分文字/图片/视频/音频等来源于网络,如侵犯到著作权人的权利,请与我们联系(微信/QQ:1074760229)。转载请注明出处:清一色财经

(0)
打赏 微信扫码打赏 微信扫码打赏 支付宝扫码打赏 支付宝扫码打赏
清一色的头像清一色管理团队
上一篇 2023年5月7日 00:30
下一篇 2023年5月7日 00:30

相关推荐

发表评论

登录后才能评论

联系我们

在线咨询:1643011589-QQbutton

手机:13798586780

QQ/微信:1074760229

QQ群:551893940

工作时间:工作日9:00-18:00,节假日休息

关注微信