关于腾讯的开源分布式存储系统DCache
当你在电商平台秒杀商品或者在社交网络刷热门话题的时候，可以很明显感受到当前网络数据流量的恐怖，几十万商品刚开抢，一秒都不到就售罄；哪个大明星出轨的消息一出现，瞬间阅读与转发次数可以达到上亿。作为终端用户的我们可能会思考，服务系统是怎么在这样严峻的流量环境中存活下来的。
其实，服务系统的架构中有许多巧妙的设计来应对这样的问题，而在这其中，通常系统都会架设缓存系统，用以缓解海量访问请求与数据带来的冲击，实现高性能访问需求。
同时，随着微服务与云等技术的发展，分布式架构的需求变得越来越普遍，再加上今天 web 上的数据类型已经不再单一，而且数据量也呈爆发式增长，传统的结构化存储方案已经跟不上脚步，对数据库的 sql 操作不再满足要求，于是 nosql 出现。将这几种技术方案整合起来，我们可以设计出分布式 nosql 缓存系统，当前这一类系统有一些比较强大的开源方案，比如 memcached 和 redis，它们对整个服务系统的可用性、可扩展性与性能起到至关重要的作用。
腾讯最近开源了一个分布式 nosql 存储系统 dcache，它的典型应用场景就在分布式缓存。根据官方介绍，dcache 基于 tars 微服务治理方案，它支持 k-v、k-k-row、list、set 与 zset 多种数据结构，数据基于内存存储，同时支持后接 db 实现数据持久化。dcache 具备快速水平扩展能力，同时配套有 web 运维平台实现高效的运维操作。
举个例子，当前微服务是一大趋势，大家都在说要做微服务，它可以让计算与存储之间解耦，实现轻量级通信。微服务不需要管理生命同期，而作为系统组件的 redis 则不然，“我们做服务架构设计时希望把逻辑层和数据层分离开来，但是如果使用 redis 做缓存，缓存与db之间的数据一致性问题，以及缓存不命中如何解决等问题都需要使用者在业务逻辑中做相关处理，这增加了一定的复杂度和难度，也增加了逻辑层和数据层的耦合度。”
另一方面，起初面对海量数据和高性能访问需求，腾讯内部各个团队其实都开发了各自的缓存系统，然而这些系统之间协议不统一、服务模型多样化、不具有通用性容错、扩展能力也参差不齐，所以团队就着手研发了 dcache 这一套通用 cache 系统，希望整体去解决业务、开发、运维和监控面临的各种挑战。所以也可以看到，目前 dcache 已经应用于腾讯内部多个业务上，包括 qq 浏览器、应用宝、腾讯地图、腾讯电脑管家、手机管家与腾讯游戏等。
sql 是指数据库的结构化查询语言，它是数据库的操作命令集，传统的关系型数据库都使用标准的sql语句操作处理数据。分布式是软件系统的一种架构模式，在分布式系统中，多个硬件或软件组件分布在不同计算机上，彼此之间通过消息传递进行通信，对外表现为一个整体，提供统一化的服务。
有一种普遍的观点是，数据库 sql 与分布式之间存在天然对立性，山宝银的理解是：“分布式系统因为数据分散在不同的节点，所以像 sql 的联表、事务等操作需要全局的锁保护，这样处理起来比较复杂，并且影响性能。”
sql 还有与 nosql 的取舍问题，nosql 是指一类数据库，主要用于高性能处理超海量数据，它的一大特点是数据结构简单，以key-value为主，数据之间非关联，容易做水平扩展。从字面上看，nosql 似乎是与 sql 对立的，做 nosql 似乎就意味着放弃 sql，然而实际上 nosql 本意是 not only sql，它不仅仅是 sql，那么也就可以包含 sql 的能力。“nosql 也不是一定就得放弃 sql，其实在代理层可以增加 sql 的解析、计算逻辑来实现 sql 操作，但这样会影响性能，所以还是看应用场景和业务需求。”
dcache 对外提供服务的粒度是 group，一个 group 负责一部分的数据分片，至于每个 group 服务哪些数据，是根据数据的 key 做 hash 映射后所处的范围来确定的。dcache 会把数据的 key 通过 hash 算法映射到 0～4294967295 (unsigned int) 范围内，然后把 0～4294967295 范围均匀划分到不同的 group 上。例如有两个 group，key 做 hash 后的值在 0～2147483647 范围就分发到 group1，在 2147483648～4294967295 范围就分发到 group2。
在一个 group 内，采用主备架构，只有主节点接收读写请求，所以数据一致性是可以保证的，而当主机不可用时，会触发主备自动切换，保证服务持续可用。我们疑惑 dcache 似乎强依赖于 etcd 与 tars 等中间件，那它本身的核心特性与能力体现在哪里？此外，dcache 的分布式集群化、异地镜像部署、容灾容错能力在实际线上应用中都会提供非常高的价值。
目前腾讯内部包括 qq 浏览器、应用宝、腾讯地图、腾讯电脑管家、手机管家与腾讯游戏在内的近百个业务都接入了 dcache，这些业务的体量之大可以想象，山宝银补充：“除了提供的这一组简单的数据，dcache 在高效可靠地支撑着近百个业务的运转，日均调用量过万亿次，这也从侧面说明了 dcache 在生产环境的性能与稳定性。”
而除了系统本身高性能、高扩展、高可用与数据安全的设计外，web 可视化的高效运维平台也成了 dcache 不可或缺的重要能力。基于内存的 nosql 存储系统在运维上会产生巨大的额外开销，它需要对相关技术进行深入理解，并且在紧要关头果断做出正确决策。
积极对接资本市场,打造干法锂电池隔膜
浙大首设区块链课程，不讲代币和ICO，仍以技术为主
摩拜推出共享汽车之后的实操体验分享
苹果13电池容量提升了多少
基于SRAM结构FPGA逻辑资源的测试编程
关于腾讯的开源分布式存储系统DCache
丰田卡罗拉双擎，拥有EV电动、ECO节能、POWER动力三种驱动模式，车展实拍！
电流互感器的使用注意事项
高精度GPS航迹测量系统
设计实践：AWS物联网解决方案
plc的特点有哪些 plc没有输出信号怎么办
基于TIDA-00474的 LED 照明功能的电容触摸和接近感测用户接口 (UI) 方案设计
一种基于嵌入式系统的全彩LED显示屏脱机播放系统的设计方案浅析
尼玛！华为手机整蛊功能解密，暴力闪屏吓坏好基友！
RFID怎样改变服装管理的形式
江西力争2026年电子信息产业链营收达1.2万亿元
苹果或在2021年推出大屏iPhoneSE
PCB:PALUP基板结构工艺技术
合宙LuatOS | 高效节能——顺舟智能Cat.1路灯控制器，开启智慧城市新生态
Marvell 对Cavium的并购尘埃落定并任命三名新董事
其实，服务系统的架构中有许多巧妙的设计来应对这样的问题，而在这其中，通常系统都会架设缓存系统，用以缓解海量访问请求与数据带来的冲击，实现高性能访问需求。
同时，随着微服务与云等技术的发展，分布式架构的需求变得越来越普遍，再加上今天 web 上的数据类型已经不再单一，而且数据量也呈爆发式增长，传统的结构化存储方案已经跟不上脚步，对数据库的 sql 操作不再满足要求，于是 nosql 出现。将这几种技术方案整合起来，我们可以设计出分布式 nosql 缓存系统，当前这一类系统有一些比较强大的开源方案，比如 memcached 和 redis，它们对整个服务系统的可用性、可扩展性与性能起到至关重要的作用。
腾讯最近开源了一个分布式 nosql 存储系统 dcache，它的典型应用场景就在分布式缓存。根据官方介绍，dcache 基于 tars 微服务治理方案，它支持 k-v、k-k-row、list、set 与 zset 多种数据结构，数据基于内存存储，同时支持后接 db 实现数据持久化。dcache 具备快速水平扩展能力，同时配套有 web 运维平台实现高效的运维操作。
举个例子，当前微服务是一大趋势，大家都在说要做微服务，它可以让计算与存储之间解耦，实现轻量级通信。微服务不需要管理生命同期，而作为系统组件的 redis 则不然，“我们做服务架构设计时希望把逻辑层和数据层分离开来，但是如果使用 redis 做缓存，缓存与db之间的数据一致性问题，以及缓存不命中如何解决等问题都需要使用者在业务逻辑中做相关处理，这增加了一定的复杂度和难度，也增加了逻辑层和数据层的耦合度。”
另一方面，起初面对海量数据和高性能访问需求，腾讯内部各个团队其实都开发了各自的缓存系统，然而这些系统之间协议不统一、服务模型多样化、不具有通用性容错、扩展能力也参差不齐，所以团队就着手研发了 dcache 这一套通用 cache 系统，希望整体去解决业务、开发、运维和监控面临的各种挑战。所以也可以看到，目前 dcache 已经应用于腾讯内部多个业务上，包括 qq 浏览器、应用宝、腾讯地图、腾讯电脑管家、手机管家与腾讯游戏等。
sql 是指数据库的结构化查询语言，它是数据库的操作命令集，传统的关系型数据库都使用标准的sql语句操作处理数据。分布式是软件系统的一种架构模式，在分布式系统中，多个硬件或软件组件分布在不同计算机上，彼此之间通过消息传递进行通信，对外表现为一个整体，提供统一化的服务。
有一种普遍的观点是，数据库 sql 与分布式之间存在天然对立性，山宝银的理解是：“分布式系统因为数据分散在不同的节点，所以像 sql 的联表、事务等操作需要全局的锁保护，这样处理起来比较复杂，并且影响性能。”
sql 还有与 nosql 的取舍问题，nosql 是指一类数据库，主要用于高性能处理超海量数据，它的一大特点是数据结构简单，以key-value为主，数据之间非关联，容易做水平扩展。从字面上看，nosql 似乎是与 sql 对立的，做 nosql 似乎就意味着放弃 sql，然而实际上 nosql 本意是 not only sql，它不仅仅是 sql，那么也就可以包含 sql 的能力。“nosql 也不是一定就得放弃 sql，其实在代理层可以增加 sql 的解析、计算逻辑来实现 sql 操作，但这样会影响性能，所以还是看应用场景和业务需求。”
dcache 对外提供服务的粒度是 group，一个 group 负责一部分的数据分片，至于每个 group 服务哪些数据，是根据数据的 key 做 hash 映射后所处的范围来确定的。dcache 会把数据的 key 通过 hash 算法映射到 0～4294967295 (unsigned int) 范围内，然后把 0～4294967295 范围均匀划分到不同的 group 上。例如有两个 group，key 做 hash 后的值在 0～2147483647 范围就分发到 group1，在 2147483648～4294967295 范围就分发到 group2。
在一个 group 内，采用主备架构，只有主节点接收读写请求，所以数据一致性是可以保证的，而当主机不可用时，会触发主备自动切换，保证服务持续可用。我们疑惑 dcache 似乎强依赖于 etcd 与 tars 等中间件，那它本身的核心特性与能力体现在哪里？此外，dcache 的分布式集群化、异地镜像部署、容灾容错能力在实际线上应用中都会提供非常高的价值。
目前腾讯内部包括 qq 浏览器、应用宝、腾讯地图、腾讯电脑管家、手机管家与腾讯游戏在内的近百个业务都接入了 dcache，这些业务的体量之大可以想象，山宝银补充：“除了提供的这一组简单的数据，dcache 在高效可靠地支撑着近百个业务的运转，日均调用量过万亿次，这也从侧面说明了 dcache 在生产环境的性能与稳定性。”
而除了系统本身高性能、高扩展、高可用与数据安全的设计外，web 可视化的高效运维平台也成了 dcache 不可或缺的重要能力。基于内存的 nosql 存储系统在运维上会产生巨大的额外开销，它需要对相关技术进行深入理解，并且在紧要关头果断做出正确决策。
积极对接资本市场,打造干法锂电池隔膜
浙大首设区块链课程，不讲代币和ICO，仍以技术为主
摩拜推出共享汽车之后的实操体验分享
苹果13电池容量提升了多少
基于SRAM结构FPGA逻辑资源的测试编程
关于腾讯的开源分布式存储系统DCache
丰田卡罗拉双擎，拥有EV电动、ECO节能、POWER动力三种驱动模式，车展实拍！
电流互感器的使用注意事项
高精度GPS航迹测量系统
设计实践：AWS物联网解决方案
plc的特点有哪些 plc没有输出信号怎么办
基于TIDA-00474的 LED 照明功能的电容触摸和接近感测用户接口 (UI) 方案设计
一种基于嵌入式系统的全彩LED显示屏脱机播放系统的设计方案浅析
尼玛！华为手机整蛊功能解密，暴力闪屏吓坏好基友！
RFID怎样改变服装管理的形式
江西力争2026年电子信息产业链营收达1.2万亿元
苹果或在2021年推出大屏iPhoneSE
PCB:PALUP基板结构工艺技术
合宙LuatOS | 高效节能——顺舟智能Cat.1路灯控制器，开启智慧城市新生态
Marvell 对Cavium的并购尘埃落定并任命三名新董事