京东内存数据库技术大揭秘:从2014到2016,如何支撑亿级用户的高并发访问?

mysmile 资讯 85
京东内存数据库技术大揭秘:从2014到2016,如何支撑亿级用户的高并发访问?

你是否好奇,京东如何在双11期间应对每秒数百万的请求?今天,让我们跟随京东云平台总架构师刘海锋的分享,一探究竟!

【CSDN现场报道】2015年12月10-12日,以“数据安全、深度分析、行业应用”为主题的2015中国大数据技术大会在北京盛大开幕。京东云平台总架构师刘海锋带来主题演讲“大规模内存数据库JIMDB:从2014到2016”,揭秘京东如何通过以内存为中心的技术架构,实现电商业务的高速发展。

京东云平台总架构师、系统技术部负责人 刘海锋

以下为演讲实录

刘海锋:

各位同行朋友,大家下午好!很高兴与大家交流京东大规模内存数据库JIMDB的演进之路。从2014到2016,JIMDB如何支撑京东电商业务?我来分享实战经验。

Spark以内存计算革新分布式系统,而存储领域同样面临变革。京东实践中深刻体会到:内存是存储的未来!这不仅提升性能,更重塑技术架构。

电商业务需极速数据访问。打开京东首页,除图片外几乎全是动态内容——商品详情、价格、推荐结果等,都需要毫秒级响应。JIMDB正是为解决这一痛点而生。

Jim Gray曾言:“Memory is the new disk”。内存容量从早期4G跃升至265G甚至1T,使内存存储成为可能。虽然成本略高,但带来的性能飞跃和管理便捷性,让京东愿意投入。

JIMDB全称京东内存数据库,是一种以内存为中心的全托管数据库。它支撑京东几乎所有在线业务,从商品数据到用户会话,甚至逐步取代MySQL成为主存储。

JIMDB基于Redis构建,但做了大量改进。Redis以内存为中心和丰富数据结构著称,我们在此基础上研发了分布式架构,满足电商高可用需求。

Build a distributed system

JIMDB是分布式系统,为业务提供Java/C驱动,管理数千台大内存机器。核心任务是构建健壮平台,确保数据持久性和高可用。

系统采用单物理机多实例部署。故障检测与切换、扩容管理等模块独立开发,存储引擎和复制协议均自研,以应对复杂电商场景。

故障自动检测与切换是基础。我们通过多故障检测器投票机制确保准确性,一旦故障触发自动Failover。2014年实现这一能力,虽简单却至关重要。

动态分片是关键能力。通过引入bucket抽象层,实现在线数据迁移。采用Partial replication技术,保证数据可靠性的同时完成平滑扩容。

技术演进聚焦三方面:存储引擎支持Dict、LSM混合存储和B+Tree;复制协议涵盖异步、同步及状态机复制;分片策略提供Hash和Range选择。三者组合满足多样业务需求。

业务场景分两类:纯缓存采用异步复制和Hash分片;持久存储需同步复制和备份机制。这种分治策略灵活支撑不同业务需求。

监控体系驱动运维决策。通过连接数、流量等指标实时分析,实现热点数据自动分片。数据驱动确保系统稳定。

基于Docker的自动化运维平台大幅提升效率。从手工操作到智能调度,容器技术助力管理数万实例,应对复杂运维挑战。

目前JIMDB覆盖多个数据中心,拥有数千台大内存机器、1000+集群,支撑京东全业务。双11期间,单集群QPS超200万,99%请求在2毫秒内返回,用户体验极致流畅。

内存碎片率优化至1.1-1.3,避免资源浪费。未来计划通过硬件协同创新进一步提升性能,如重写网络协议加速小包处理。

我们正探索从专署集群转向聚合资源池,动态调度内存资源降低成本。平台化之路旨在实现资源利用最优化。

总结而言,内存是存储的未来!JIMDB的实践印证了这一点。我们的理念是:一件事,分布做,持续做。

谢谢大家!

想了解更多京东技术实战?欢迎关注我们的技术社区,一起探索云计算前沿!

相关问答

三张图简述云计算架构?

云计算架构是指云计算系统中各个组件或层次之间的关系和交互。下面是三张图简述云计算架构的主要组成部分:1.云服务模型架构图:该图展示了云计算的三种主要服...

hcso云是什么?

华为云将重点设计、搭建HCSO云平台,并提供HCSO云平台的运维和其生态体系支撑。HCSO全称为HUAWEICLOUDStackOnline,是华为云推出的混合云解决方案,是华为公...

云服务公司的架构?

云服务器平台的构建需要考虑现有的物理集中式IT资源集群,并在此基础上实施虚拟化,并建立面向未来和面向发展的动态计算(计算)资源分配管理和服务自动化平台。...

首款全国产云基础架构平台是什么?

首款全国产云基础架构平台“安超云一体机”是华云数据基于安超OS打造全国产化云生态的重要一步,在南京发布之后,相关国产化行业应用将在江苏省积极推进试点,同...

如何使用云计算构建企业架构?

原文链接:https://www.toutiao.com/i6729779486910317063/作者|易立阿里云资深技术专家导读:从十余年前的各种分布式系统研发到现在的容器云,从支撑原有...

云电子架构是什么?

是指构建云所需的所有组件和功能如何连接起来,以便交付供应用运行的在线平台,云被视为平台即服务,因为云提供商为用户提供了平台以及底层IT基础架构。是指构...

云计算架构课程内容有哪些?-ZOL问答

5条回答:本课程围绕云计算架构设计展开,内容分为基础、进阶与高级三个阶段。基础部分包括:Linux系统管理实践、Shell脚本开发实战、Docker容器技术应用、Jenkin...

云计算和大数据分析的系统架构方向,该怎么学习?

系统架构首先要掌握一些基础的架构设计原则,下面给介绍一下模块化云架构设计思路。作为云服务商,我们经常需要面对客户IT系统上云的需求,中型以上的客户IT系...

什么是云计算基础架构的核心和基础?

云计算是一种基于互联网的计算方式,要实现云计算则需要一整套的技术架构去实施,包括网络、服务器、存储、虚拟化等等。云计算目前分为公有云和私有云。两者的...

云架构的优缺点?

优点1:免维护,个人认为禹龙云终端一个最大的优点就在于它的免维护,由于云终端在大多数情况并不进行数据的存储和计算,终端运行的系统桌面都通过服务器统一的...

抱歉,评论功能暂时关闭!