连续的数据供应可确保数据密集型仿真能够以最高速度运行
编排更多远程存储层和主内存之间的数据移动可以使仿真速度提高2.5倍。信用:KAUST
由KAUST研究人员开发的抢先式内存管理系统可以消除因数据传输缓慢而造成的延迟,从而将数据密集型仿真速度提高2.5倍。该开发优雅而透明地解决了现代超级计算中最顽固的瓶颈之一,即以足够快的速度从内存传送数据以跟上计算的速度。
研究团队的Hatem Ltaief解释说:“减少数据的移动同时保持数据与计算硬件的距离是计算科学家处理大数据所面临的最艰巨的挑战之一。” “由于计算速度和内存传输能力之间的差距越来越大,以及在远程存储介质上存储大量数据的需求,这种情况更加恶化。”
处理大数据的关键挑战是将数据存储在内存中的成本和规模。内存越快,成本就越高,并且需要在计算元素之间移动数据的速度就越快。因为即使在功能最强大的超级计算平台上,也只能使用相对较小容量的最快内存,因此系统工程师会依次添加更大,更慢和更远程的内存层,以容纳大数据集典型的TB级和PB级数据。
“在这种敌对环境中,我们的系统通过减少将数据移入和移出远程存储硬件的开销发挥了作用,” Ltaief说。
Ltaief与同事David Keyes和Tariq Alturkestani共同开发了他们的多层缓冲系统(MLBS),以通过协调存储层之间的数据移动来主动维护数据,使其与计算硬件尽可能接近。
Alturkestani说:“ MLBS依靠一种多级缓冲技术,该技术通过使其“看到”所有数百PB的数据都在快速存储器中,从而使模拟胜过智能。“缓冲机制可以防止应用程序在需要访问位于远程存储上的数据时停止运行,从而允许应用程序通过异步计算操作全速运行。”
MLBS提供的这种协同作用,使用KAUST的Shaheen-2超级计算机进行了涉及数百PB数据移动的三维地震勘探模拟,实现了2.5倍的加速。
Ltaief说:“这种方法还减少了将数据移入和移出远程存储介质所需的能量,这可能比在本地内存上执行单个计算的能量高数百倍。” “使用MLBS,我们可以减轻数据移动的能源开销,这是我们中心的主要目标之一。”
- 分享
- 举报
-
2020-12-09 10:56:14
-
浏览量:2864次2020-10-21 14:07:15
-
浏览量:3424次2019-12-02 16:43:30
-
浏览量:3253次2020-12-04 09:34:16
-
浏览量:3762次2020-11-09 15:54:12
-
浏览量:1849次2020-09-23 16:32:22
-
2020-10-27 14:14:11
-
浏览量:3331次2022-02-26 09:00:34
-
浏览量:2902次2020-11-11 10:44:22
-
浏览量:1412次2022-10-20 17:13:08
-
浏览量:1242次2019-06-18 13:45:49
-
浏览量:4424次2020-11-12 14:15:40
-
浏览量:2534次2019-06-28 10:35:50
-
浏览量:2547次2019-11-27 17:25:21
-
浏览量:777次2023-03-14 10:09:41
-
浏览量:6974次2020-06-05 15:50:07
-
浏览量:2989次2020-11-25 10:03:26
-
浏览量:962次2023-01-12 17:08:25
-
浏览量:2513次2022-05-06 10:25:09
-
广告/SPAM
-
恶意灌水
-
违规内容
-
文不对题
-
重复发帖
易百纳技术社区
感谢您的打赏,如若您也想被打赏,可前往 发表专栏 哦~
举报类型
- 内容涉黄/赌/毒
- 内容侵权/抄袭
- 政治相关
- 涉嫌广告
- 侮辱谩骂
- 其他
详细说明