期刊文献+
共找到1篇文章
< 1 >
每页显示 20 50 100
基于Hadoop的气象数据分布式存储技术研究 被引量:10
1
作者 周笑天 冯勇 +1 位作者 陈益玲 陈澍 《信息技术》 2022年第1期68-74,共7页
针对目前气象数据存储所面临的海量扩张、高并发读写、结构化和非结构化数据并存以及长时间序列和大数据集检索效率低下等问题,提出了以Hadoop开源框架为基础的气象数据分布式存储方案。通过对气象数据自身属性和特点进行分析,得出了气... 针对目前气象数据存储所面临的海量扩张、高并发读写、结构化和非结构化数据并存以及长时间序列和大数据集检索效率低下等问题,提出了以Hadoop开源框架为基础的气象数据分布式存储方案。通过对气象数据自身属性和特点进行分析,得出了气象数据在经过充分优化的基础上,在分布式存储框架中具有很强的适应性和规模化应用的潜力;并在HBase数据库中的Row Key设计和小文件合并策略方面做了创新。最后针对气象数据中广泛存在的结构化和非结构化这两种主要数据类型,以自动气象站数据和雷达产品数据为具体实例,给出了详细的设计思路和实现方法。 展开更多
关键词 气象数据存储 HADOOP row key 文件合并
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部