HDFS

HDFS

文章 118 浏览 213

Hadoop HDFS - 无法连接到主服务器上的端口

我已经设置了一个小型 Hadoop 集群进行测试。 NameNode(1 台机器)、SecondaryNameNode(1)和所有 DataNode(3)的安装过程相当顺利。这些机器被命…

旧故 2024-12-24 22:24:37 4 0

Hadoop:如何访问(许多)照片图像以进行map/reduce处理?

我在本地文件系统上保存了超过 1000 万张照片。现在我想遍历每一个来分析照片的二进制,看看它是否是一只狗。我主要想在集群hadoop环境上进行分析。问…

深爱成瘾 2024-12-24 21:54:46 5 0

hadoop dfs -copyFromLocal src dest

我的问题是为什么我们需要指定一个目标。我放入hdfs的文件不一定完全位于本地机器上,那么在命令中指定dest有什么用呢? 当我通过命令 lie 运行命令,…

海螺姑娘 2024-12-24 21:47:04 1 0

HIVE/HDFS 用于大规模实时存储传感器数据?

我正在评估具有以下要求的传感器数据收集系统, 100 万个端点每分钟发送 100 字节的数据(作为时间序列)。 基本上对存储进行了数百万次小写入。 此数…

昨迟人 2024-12-22 02:00:30 8 0

“java/lang/NoClassDefFoundError: java/lang/Object”什么时候运行JNI程序

我对安装抄写员和安装感到非常痛苦。 HDFS。值得赞赏的是,我解决了大部分问题。然而,我被困在这里了。 我安装 libhdfs ,然后编写一个“Hello world…

喜爱纠缠 2024-12-22 01:33:21 6 0

小文件和 HDFS 块

Hadoop分布式文件系统中的一个块存储多个小文件,还是一个块只存储1个文件?…

原谅我要高飞 2024-12-22 01:31:06 2 0

在 CPython 中一次处理 hdfs 文件中的数据的最佳方法(不使用 stdin)?

我想在 hadoop 流作业中使用 CPython,该作业需要从保存在 hadoop 文件系统中的面向行的文件访问补充信息。我所说的“补充”是指该文件是对通过标准输…

伪装你 2024-12-21 23:16:59 4 0

Chukwa 和 Chukwa 哪个更好?隶?

我正在使用 Hadoop ,但为了记录我需要一些东西。 但我不知道 Scribe 和 Chukwa 之间哪个登录系统更好。 你们能告诉我吗? 如果有任何易于与 Hadoop …

囚你心 2024-12-21 08:29:46 4 0

索引 7 处的权限非法字符:hdfs://localhost:9000 与 hadoop

我正在尝试连接到 hdfs。 Configuration configuration = new Configuration(); configuration.set("fs.default.name", this.hdfsHost); fs = FileSys…

淡紫姑娘! 2024-12-21 06:40:17 2 0

关于Hadoop secondarynamenode概念

根据文档 (http://hadoop.apache.org/common/docs/r0.20.203.0/hdfs_user_guide.html) secondarynamenode 在 hadoop0.20.203.0 版本中已弃用,并由 ch…

北城孤痞 2024-12-21 06:14:02 3 0

在不同的hadoop节点上添加不同的文件

当我们添加文件时 bin/hadoop dfs -put input_folder 输入 通过该命令输入到 HDFS 中。 当我们添加文件时,它们会被复制到所有节点。 有什么方法可以…

过潦 2024-12-21 01:43:17 5 0

如何从 DFS 中删除 hadoop 节点而不是从 Mapred 中删除?

我对 hadoop 还很陌生。为了运行一些基准测试,我需要各种 hadoop 配置进行比较。 我想知道一种从 DFS 中删除 hadoop 从站(不再运行 datanode 守护进…

骄兵必败 2024-12-20 05:53:53 10 0

Hadoop fs 查找块大小?

在 Hadoop fs 中如何查找特定文件的块大小? 我主要对命令行感兴趣,例如: hadoop fs ... hdfs://fs1.data/... 但它看起来不存在。有Java解决方案吗…

ぃ双果 2024-12-19 16:53:08 2 0

Hadoop 序列文件中的压缩

我有一些关于 hadoop 顺序文件的基本问题。 1)默认压缩编解码器将文件压缩到什么程度? 2)当我读取该文件并将其内容转储到文本文件时,我有 100 MB …

风追烟花雨 2024-12-18 22:00:15 4 0

Hbase读取高负载

我正在研究满足我们公司需求的 noSQL 解决方案。 目前搜索范围缩小到 hBase。我读了很多关于架构、性能等方面的知识,但有一件事我仍然没有发现。 例…

往日 2024-12-18 14:43:43 4 0
更多

推荐作者

眼泪淡了忧伤

文章 0 评论 0

corot39

文章 0 评论 0

守护在此方

文章 0 评论 0

github_3h15MP3i7

文章 0 评论 0

相思故

文章 0 评论 0

滥情空心

文章 0 评论 0

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文