企业空间 采购商城 存储论坛
华为全闪存阵列 IBM云计算 Acronis 安克诺斯 安腾普 腾保数据
首页 > 存储资讯 > 正文

2.9PB,阿贡国家实验室打破单一文件传输纪录

2019-07-16 09:42来源:中国存储网
导读:由阿贡国家实验室的科学家领导的团队在橡树岭国家实验室的Summit系统上移动了2.9PB的数据,将文件从磁盘移动到磁带。

中国存储网消息,近日由阿贡国家实验室的科学家领导的团队移动了2.9PB的数据,内容为宇宙学模拟项目的一部分。

“ 存储在我们的团队中通常是一个非常令人头疼的问题 - 宇宙非常大,因此我们的工作通常可以生成大量数据, ”阿贡实验室的物理学家和计算科学家Katrin Heitmann博士和橡树岭国家实验室领导人解释说。“ 使用Globus轻松地在不同的存储解决方案和机构之间移动数据进行分析是至关重要的。“

由阿贡国家实验室的科学家领导的团队在橡树岭国家实验室Summit系统上移动了2.9PB的数据,将文件从磁盘移动到磁带。根据2019年6月18日发布的Top500排行榜,有关数据存储在OLCF的Summit HPC上,这是目前世界上最快的HPC。

“ 由于其独特性,数据非常珍贵,分析需要时间, ”Heitmann说。“ 模拟完成后的第一步是将数据备份到HPSS,这样我们就可以在磁盘和磁带之间来回移动数据,从而逐步进行分析。由于其速度,可靠性和易用性,我们使用Globus进行这项工作。“

“ 随着亿亿即将到来,人工智能正在崛起,HPC系统激增,研究团队比以往任何时候都更加分散,快速,安全,可靠的数据移动和管理现在比以往任何时候都更加重要, ”Globus联合创始人兼董事伊恩福斯特说。 Argonne的数据科学和学习部门。“ 我们倾向于将这些功能视为理所当然,但如果没有这些功能,现代化的合作研究是不可能的。

“ 几十年来,Globus一直致力于开创性的研究。我们不能自豪地帮助科学家们完成改变世界的工作,我们很高兴看到像这样的项目继续推动Globus可以实现的目标。“

在谈到数据传输性能时,“ 最重要的部分是可靠性, ”Heitmann说。“ 作为用户,我基本上不可能在转移完成后检查到达时的大量数据。对数据的分析通常使用数据的子集,因此需要很长时间才会发现不良数据,此时我们可能不再拥有数据源。所以Globus的可靠性方面是关键。

“ 当然,速度也很重要。如果转移非常缓慢,考虑到我们转移的数据量,我们就会遇到问题。因此,能够依靠Globus进行快速数据移动也是一件好事。我们还感谢Oak Ridge访问Summit以及他们出色的数据传输节点设置,从而可以使用Globus进行HPSS传输。否则这项工作是不可能的。“

关于Golobus

Globus是一种安全可靠的研究数据管理服务。

使用Globus,用户可以通过单一界面移动,共享和发现数据 - 无论您的文件存在于超级计算机,实验室群集,磁带存档,公共云还是笔记本电脑上,您都可以使用现有身份从任何地方管理这些数据,只需一个网络浏览器。

开发人员还可以使用Globus 构建应用程序和网关,利用我们的高级身份管理,单点登录,搜索,授权和自动化功能。

 

Globus能做什么?

  • 传输文件:从千字节到千兆字节,通过Globus,您可以高效,可靠,安全地在站点内或跨海洋的系统之间移动数据
  • 与他人共享文件:您只需要一个与同事共享数据的电子邮件地址 - Globus管理身份验证和访问
  • 开发应用程序和网关:我们的开放式REST API和Python SDK使您能够创建研究数据服务,应用程序和工作流程的集成生态系统

谁使用Globus?

  • 研究人员加上越来越多的商业公司- -在数百所大学,国家实验室,政府机构和其他研究机构的使用Globus的常规,因为他们与数据合作
  • 研究计算管理人员和IT团队依靠Globus使研究人员更容易访问存储,并监控和报告存储系统的使用情况
  • 开发人员使用Globus自动化数据工作流并构建自定义Web应用程序 - 例如科学网关和可搜索的数据门户 - 以及移动,桌面和命令行应用程序和服务。
继续阅读
关键词 :
超算应用
中国存储网声明:此文观点不代表本站立场,如有版权疑问请联系我们。
相关阅读
产品推荐
头条阅读
栏目热点

Copyright @ 2006-2019 ChinaStor.COM 版权所有 京ICP备14047533号

中国存储网

存储第一站,存储门户,存储在线交流平台