如何在HPC集群上创建分布式后缀树
我想为 4 GB 的输入字符串创建后缀树。理想情况下,内存中树的大小约为 100 GB。我无法在普通桌面上执行此操作。有没有办法在Windows HPC集群上做到这一点?如何将后缀树分布在HPC的不同计算节点上?
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
我想为 4 GB 的输入字符串创建后缀树。理想情况下,内存中树的大小约为 100 GB。我无法在普通桌面上执行此操作。有没有办法在Windows HPC集群上做到这一点?如何将后缀树分布在HPC的不同计算节点上?
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
接受
或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
发布评论
评论(1)
是的,可以这样做; Google Scholar 列出了 关于该主题的几篇论文。诀窍在于将部分后缀初始分配给初始处理器;必须选择它,以便每个处理器都可以独立地找到它的树部分。一旦完成,通常的后缀树操作就可以相当有效地完成。我不知道任何公开的实现示例。
Yes, it's possible to do this; Google Scholar lists several papers on the topic. The trick is in the initial assignment of partial suffixes to the initial processors; that has to be chosen so that each processor can go off and find it's section of the tree independantly. Once that's done, the usual suffix-tree operations can be done fairly efficiently. I don't know any public examples of implementations.