WatchStor.com — 领先的中文存储网络媒体 | 51CTO旗下网站

新闻资讯 > Open Compute Project > 正文
看Facebook七十二变 再造Memcached “转世”为McDipper
作者: 佚名 2013-03-12 11:07 【ZDNet/译】

在某些情况下我们需要DRAM,但真正能够万试万灵的方案只有闪存。

上述观点到底是否可信?我们尚无法断言。但至少Facebook已经在上周二揭开了“McDipper”的神秘面纱,他们研发的这项技术能够节约内存容量并进一步激发闪存潜能。

在Facebook工程博客的一篇博文中,很明显这家社交网络巨头的存储技术人员已经开始为此投入精力。其工程团队还给出了关于memcached协议的更多细节——可与McDipper闪存缓存服务器相兼容。

“McDipper的主要设计目的在于提高闪存存储的使用效率(即尽可能提供与底层设备相接近的性能表现)并顺便取代memcached的地位,”工程团队在博客中的一篇博文中写道。

对于那些希望在不造成任何延迟波动的前提下最大程度缩减RAM使用成本的企业而言,McDipper是一款非常实用的工具。

举例来说,Facebook去年已经在自家基础设施中开始使用McDipper。通过这种方式,社交网络巨头得以将与图片相关的散列元数据保留在内存当中,而将真正体积庞大的图片本身保存在闪存这边。

看Facebook七十二变 再造Memcached “转世”为McDipper

McDipper的存储布局

“这套配置为我们提供了在闪存设备上压缩写入放大率所必需的大规模连续写入功能,并允许我们通过一次闪存存储读取获得图片内容,并将单独写入作为高效批量操作中的一部分,进而实现图片存储,”该公司指出。

在McDipper的帮助下,Facebook公司得以在处理某些任务时将服务器数量缩减为原先的10%,并且确保90%以上的请求能在亚毫秒级时间内得到响应。

尽管不少存储技术都针对跨存储分层数据提供了一系列处理工具,但这些方案往往会带来延迟提升或者额外的授权许可支出。

而在另一方面,memcached则是一套简洁且易于理解的系统。尽管存在局限,但管理人员仍然可以借此削减基础设施并直接把关注重点放在存储身上。这套系统最初是用来为LiveJournal提供支持的。

通过开发McDipper,Facebook帮助自己有效回避了过分依赖特定供应商可能带来的技术弊端。

该公司在博客中写道,这项技术目前正被Facebook的内容交付网络(简称CDN)用于处理来自前置缓存超过150Gbps的数据流量。

尽管该公司并没有计划尽快将这套协议作为开源方案公布于众,但负责开发工作的工程团队却乐于将其推向开源,一位来自Facebook公司的发言人向The Register网站透露。

在此之前,此方案一直躲在社交网络巨头身后消耗存储工程师们的脑力,公司CEO Zuckerberg在总部的办公室里可能还接到了不少精通基础设施的求职者们塞来的简历。

【编辑推荐】

  1. 亚马逊Facebook谷歌试图利用大数据治愈癌症
  2. Facebook透露新建“冷”数据中心计划
  3. 风云崛起 探索Facebook幕后的数据英雄
  4. 洞察力的“黄金时代”:大数据的美好未来
  5. 驾驭企业大数据 Splunk财报抢眼前景看好

标签:Open Compute Project 

了不起的IT经理
LecVideo
论坛与活动