原创 基于 FPGA 的 Memcached 加速系统架构

Memcached是一种高性能的内存密钥缓存系统，对提高Web服务的质量至关重要，并且已经得到广泛部署。例如，大型的Memcached服务器群集已由Facebook，YouTube和Reddit等Web服务提供商部署。 Facebook有数百个Memcached服务器，每秒处理数十亿个键值对，并且数字还在不断增长。传统的Memcached服务器基于x86架构。由于网络协议栈处理多个中断，命令高速缓存失败率高，数据局部性等原因，因此存在较大的延迟，较差的吞吐量和可伸缩性以及高功耗问题。因此，针对Memcached进行性能优化和架构创新的尝试不断涌现。例如，使用多核处理器提高服务器端性能，使用RDMA技术和专用IO库旁路内核网络协议栈来减少服务器处理延迟，并基于GPU / FPGA实现硬件加速。

与Microsoft使用FPGA加速公共云的解决方案类似，本文选择使用Memcached加速系统架构。 Memcached加速器和主机CPU协同工作以完成Memcached请求处理。这种架构在功耗和延迟方面的优势已经在Microsoft云的实际部署中得到了充分证明。

加速系统的体系结构，Memcached加速器的形式与网卡功能的分离大大简化了系统设计的难度，灵活性，可部署性，有利于系统的更新和部署。