正在阅读：IO之外的存储挑战，京东云借英特尔傲腾内存实现云存储低延迟IO之外的存储挑战，京东云借英特尔傲腾内存实现云存储低延迟

　　经过第一轮的跑马圈地，云计算的接受和普及已经彻底完成。下一步，云服务商想要再上一个台阶，最大的发力点便是推进云服务在各类产业中的应用。而对于任何生产型应用来说，性能都是一道必须跨过的门槛。

　　所谓性能，一看数据吞吐量，二看延迟。

　　通常来讲，延迟包括网络延迟、计算所需的时间以及存储系统的延迟这几种。其中，网络延迟可以通过CDN或SD-WAN等技术来降低，或将其限制在一个相对可控的范围内，而计算所需的时间则可以通过更新的硬件及更好的扩容机制来降低。但存储系统的延迟却是很难把控的。

　　举个例子;两种云服务很可能在存储系统的平均延迟方面有着完全相同的纸面数据，但实际上，真正优秀的云服务不仅需要提供很低的平均延迟，更需要努力降低单次IO延迟与平均IO延迟之间的偏离程度。换句话说，云服务提供商要努力控制存储系统延迟的抖动幅度，让延迟保持平稳。

　　对于存储部分的延迟，京东云IaaS研发总监陈峰给出了一段很形象的描述：假设两种云服务的平均存储延迟都是50ms，但这一数据既可能是(50+50+50)/3得来的，也有可能是(10+100+40)/3得来的。显然，前者才是真正优秀的数据。

　　京东云的低延迟保卫战

　　性能是云服务走进生产的关键，而从最基础的层面来说，虚拟机的性能表现就是问题的本质。

　　与物理机一样，虚拟机同样是由CPU、内存和存储三大件组成;只不过物理机的三大件是实体部件，虚拟机的三大件是软件抽象。作为基础云服务的最小单位，三大件的性能是深度绑定的，其中的最短板决定了整体性能。而从常识来看，存储显然就是其中的最短板。

　　为了提升虚拟机的整体存储性能，首先，京东云部署了大量NVMe SSD设备来提升IO和数据吞吐量，并降低存储系统的整体延迟。这虽然让京东云存储部分的性能发生了质的变化，但更高IO、更大的数据吞吐量和更低的平均延迟也让过去“不起眼”的延迟抖动问题凸显出来。

　　由于机制与传统硬盘不同，SSD的写放大问题不可避免。也就是说，如果用户需要向SSD中写入1MB的数据，那么SSD的实际写入量肯定会大于1MB。而且，实际的写入量还与SSD剩余容量等多种因素相关。在云计算常用的分布式存储中，这一效应造成的最终结果便是SSD完成单位数据写入所需的时间会出现一定程度的抖动。整体耗时越少，这种抖动就越明显。

　　对于已经花费大量成本部署NVMe SSD的京东云来说，这无疑是“按下葫芦又起了瓢”。

　　显然，SSD引起的问题，再用SSD来解决是不现实的。因此，京东云看上了更高端的Intel傲腾技术。

　　作为一种与SSD不同介质、不同机制的高性能非易失性存储设备，傲腾数据中心级持久内存不仅可以提供远低于SSD的读写延迟，更不存在写放大效应。这些特性使得傲腾持久内存可以在更快响应IO请求的同时让每一次数据读写的性能都变得稳定、可预期。当然，在基础的写入和读取速度方面，傲腾内存相对于普通NVMe SSD也有着数倍的性能优势。

　　在实际的配置中，京东云会以750GBx2或360GBx2的方式在存储服务器中部署傲腾内存，使其成为NVMe SSD的高速缓存，从而让整个存储变成一个金字塔型。在这一结构中，位于前级的傲腾负责承担IO性能，而位于后级的NVMe SSD则提供更大的存储容量。通过这种全半导体存储结构，京东云也终于在性能和成本之间取得了最佳平衡。

　　在面对写入请求时，数据会先写入傲腾内存，并反馈一个完成信号，这样用户就可以获得最高的写入性能;而在数据读取场景中，京东云则会把最热的数据首先移入傲腾内存，方便用户更快读取。

　　在实际的使用中，配置傲腾内存的存储系统能够提供50W IO和10ms的平均读写延迟;对于云存储而言，这一实际性能已经相当理想。

　　写在内存里的大计划

　　数据库是所有生产类IT系统的核心，也是云服务为产业服务过程中最难翻越的一座大山。以往，只有最强悍的物理机系统才有资格承载核心数据库所需的IO性能。但为了挑战更高性能，近年来，数据库甚至出现了向内存转移的趋势。在内存型数据库中，整个数据库都会被加载到系统内存中，从而实现更高的查询和写入性能。而面对动辄数百GB乃至上T的数据库容量来说，内存数据库显然也意味着极高的硬件成本。

　　而傲腾内存的DIMM形态产品则凭借其低延迟、高性能、非易失的特性成为了内存数据库在性能和成本之间最新的平衡选择。

　　目前，京东云正在测试将基于Redis开源内存数据库的JIMDB(Jingdong In Memory DataBase，京东内存数据库)放在傲腾内存中运行。虽然目前傲腾内存在性能上仅有普通内存的三分之一到五分之一，但相对内存而言更大的容量和更低的价格却大大降低了内存数据库大规模应用的门槛。另一方面，Intel所提供的全套开发工具和工程师资源也正在帮助京东云完成相关测试和开发。

　　六大支柱构建系统性优势

　　在CPU领域占据领先地位的Intel近年来正在存储领域全面发力，不仅向数据中心市场提供不同规格的SSD产品，更为填平内存与存储之间的性能鸿沟而推出了傲腾内存。而内存存储与制程封装、架构、互联、安全及软件一道，共同构成了支撑Intel生态向“以数据为中心”转型的六大支柱。

　　对于Intel来说，IT和系统已经不再是以单纯的晶体管为核心，他们的存在都是以发掘数据价值、推进数据利用效能为核心的。为此，Intel和用户需要在IT系统的每一个环节共同推动新技术的实践与应用，为数据价值的实践铺平道路。