期刊文献+
共找到1篇文章
< 1 >
每页显示 20 50 100
XHDF5:面向HEPS的高性能HDF5数据远程访问系统
1
作者 冯时超 程耀东 程垚松 《数据与计算发展前沿(中英文)》 2025年第3期136-148,共13页
【目的】为满足异地用户对高能同步辐射光源(HEPS)海量数据的访问需求,提出了一种高效且具备良好适应性的基于HDF5数据格式的远程访问解决方案。【应用背景】HEPS每年将产生海量科学数据,以HDF5作为统一的数据格式,采用“数据集中存储,... 【目的】为满足异地用户对高能同步辐射光源(HEPS)海量数据的访问需求,提出了一种高效且具备良好适应性的基于HDF5数据格式的远程访问解决方案。【应用背景】HEPS每年将产生海量科学数据,以HDF5作为统一的数据格式,采用“数据集中存储,异地分布处理”的计算模式,用户的计算任务无需提前下载数据即可无缝地运行在异地的算力中心上。【方法】通过对HEPS数据中心的存储现状和目前数据访问手段的分析,采用HDF5 VOL与XRootD实现对HDF5数据的透明访问,设计并实现了XHDF5系统。该系统采用了并发访问、数据压缩等方式提高访问性能。【结果】通过多项技术测试、性能对比实验以及大规模数据处理测试,XHDF5系统在远程访问HDF5文件时展现出卓越的性能和高度的稳定性。与传统的基于文件系统挂载的访问方法和H5serv技术相比,XHDF5系统在高网络延迟的环境下表现尤为突出。【结论】XHDF5系统能够高效地支持跨区域的数据共享与协同处理,为科研人员提供一个稳定可靠的高性能数据访问环境,助力科学研究的顺利开展。 展开更多
关键词 xrootd HDF5 HEPS NFS 远程数据访问
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部