基于输入输出堆栈的键值存储系统优化方案

基于日志结构合并(lsm)树的键值(kv)存储系统可优化随机写入性能,并提高读取性能,因此被广泛应用于电子商务、在线分析和实时通信等现代数据存储系统。日志结构合并树将变更的kv数据存在内存中,批量刷新至内存,优化了随机写入效率,但是在系统意外崩溃时会有数据丢失。为了避免内存中的数据丢失,rocksdb在更新内存之前,会将数据写入写前日志(wal)中。但是开启同步wal后系统的写入性能会受到较大的影响。在本文中,我们分析了利用本地文件系统保存wal的一些缺陷,在此基础上提出了一种新的wal机制,该机制根据wal文件的特性直接管理原始设备(或分区),避免了无用的元数据更新,同时保证了数据顺序写入磁盘。实验结果表明,对于固态硬盘(ssd)ssd上的小kv数据,mywal可以将rocksdb的数据写入性能提高5到8倍。在nvme ssd和非易失性存储器(nvm)上,mywal可以将数据写入性能提高10%–30%。此外,ycsb的结果表明,与spandb相比,写入延迟降低了50%。  
   作者:
张晓1,2,3,黎梦钰2,4,michael ngulube1,2,陈泳豪1,2,赵一平1  
      单位:
1西北工业大学计算机学院,中国西安市,710072
2西北工业大学大数据存储与管理工信部重点实验室,中国西安市,710072
3西北工业大学空天地海一体化大数据应用技术国家工程实验室,中国西安市,710072
4西北工业大学软件学院,中国西安市,710072
本文精要导读:


华为P10 将首发麒麟970处理器 你期待吗?
一位web前端工程师的感慨
10月份Android手机性能排行榜公布
业界最强大人工智能系统在 GTC 2018 上发布 Vicor为AI注入创新动力
中国电信大模型做得怎么样了?
基于输入输出堆栈的键值存储系统优化方案
PCB工厂如何控制PCB板的品质
两会:中国移动董事长杨杰建议强化5G顶层设计 建立健全数据要素市场体系
Dimetix激光测距传感器解决压力隧道的距离/形变监测的问题
JFrog Artifactory—高性能软件制品管理仓库
采用时钟复用技术提高可测性设计的故障覆盖率
555时基电路引脚解析
赵明回应华为中低端5G手机回归:荣耀没压力
如何创建以太坊ETH纸钱包
一分钟带你了解 全球首款智能全息投影手机
刘作虎告诉你一加6为什么没有无线充电
iPhoneXR首销遇冷 苹果手机在中国市场权重下降
不同应用在智慧城市有什么应用
21个使用Linux的不同理由分享
经典电路分析:高速自适应触发电路