HDFS

HDFS

文章 118 浏览 210

HDFS 表示文件仍然打开,但写入该文件的进程已被终止

我是 hadoop 的新手,过去几个小时我一直在尝试用 google 搜索这个问题,但我找不到任何有帮助的东西。我的问题是 HDFS 说该文件仍然打开,即使写入该…

手心的海 2024-10-22 08:12:51 1 0

导入hadoop/pig中日志的多级目录

我们将日志存储在 S3 中,我们的 (Pig) 查询之一将获取三种不同的日志类型。每个日志类型都位于基于类型/日期的子目录集中。例如: /logs//////lots_o…

扮仙女 2024-10-21 23:08:37 7 0

如何判断 hadoop namenode 是否已经格式化?

当第一次配置我的 hadoop namenode 时,我知道我需要运行, bin/hadoop namenode -format 但是在将数据加载到 HDFS 后第二次运行它,将清除所有内容并…

惟欲睡 2024-10-21 08:30:36 2 0

Hadoop 用于处理非常大的二进制文件

我有一个希望分发的系统,其中有许多非常大的不可分割的二进制文件,我希望以分布式方式处理。这些大小约为数百 Gb。由于各种固定的、特定于实现的原…

羁客 2024-10-20 22:42:23 3 0

Hive 在 HDFS 中的什么位置存储文件?

我想知道如何找到 Hive 表和它们所代表的实际 HDFS 文件(或更确切地说,目录)之间的映射。我需要直接访问表文件。 Hive 将其文件存储在 HDFS 中的什…

千笙结 2024-10-18 10:03:51 6 0

如何确保数据均匀分布在 hadoop 节点上?

如果我将数据从本地系统复制到 HDFS,我能否确保数据均匀分布在节点上? PS HDFS保证每个块将存储在3个不同的节点上。但这是否意味着我的文件的所有块…

下雨或天晴 2024-10-18 09:20:27 4 0

Hadoop、硬件和生物信息学

我们即将购买新硬件来运行我们的分析,并想知道我们是否做出了正确的决定。 设置: 我们是一个生物信息学实验室,将处理 DNA 测序数据。我们这个领域…

绝情姑娘 2024-10-18 05:58:39 5 0

如何在非 Java 客户端中从 HDFS 读取文件

因此,我的 MR 作业会生成一个报告文件,最终用户需要能够下载该文件,最终用户需要单击普通 Web 报告界面上的按钮,并让它下载输出。根据这本 O'Reil…

べ繥欢鉨o。 2024-10-17 21:22:32 2 0

HDFS 上的文件块

Hadoop是否保证同一文件的不同块将存储在集群中的不同机器上?显然,复制的块将位于不同的机器上。…

╰つ倒转 2024-10-15 20:03:40 3 0

对 hbase/hdfs 的商业支持

我知道cloudera处于为hadoop/hbase/hdfs提供商业支持的最前沿。 还有其他供应商提供此服务吗? -钦梅…

分開簡單 2024-10-15 12:17:47 5 0

如何存储和查询非常大的数据集(超出关系数据库)

我们目前面临的问题是如何有效地存储和检索非常大的数据集(数十亿)中的数据。我们一直在使用 mysql,并优化了系统、操作系统、raid、查询、索引等,…

最初的梦 2024-10-13 16:55:45 8 0

Hadoop DFS 指向当前目录

几个月前,我们在本地计算机上安装了 CLoudera Hadoop 3,一切都很好。最近我们还安装了 Whirr 来开始使用集群。虽然我们遇到了一些问题,但过了一段…

那小子欠揍 2024-10-13 09:16:24 3 0

Hadoop复制一个目录?

是否有HDFS API可以将整个本地目录复制到HDFS?我找到了一个用于复制文件的 API,但是有用于目录的 API 吗?…

素手挽清风 2024-10-12 14:35:41 4 0

HDFS中DFSClient和FileSystem的区别

Hadoop DFS (HDFS) 中的 DFSClient 协议和 FileSystem 类之间有什么区别? 这两个类都用于将远程客户端连接到 HDFS 中的名称节点。 因此,我想了解其…

怪异←思 2024-10-11 08:06:36 3 0

Hbase和Hive集成有什么好处

最近看到一篇博客,作者提到了Hbase和Hive的集成。这是否可能,如果可以的话,使用两者的优势是什么(在性能和可扩展性方面)。如果我错了,请纠正我…

空宴 2024-10-10 12:59:31 5 0
更多

推荐作者

已经忘了多久

文章 0 评论 0

15867725375

文章 0 评论 0

LonelySnow

文章 0 评论 0

走过海棠暮

文章 0 评论 0

轻许诺言

文章 0 评论 0

信馬由缰

文章 0 评论 0

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文