HDFS

HDFS

文章 118 浏览 209

hive分区内部表分区删除问题

有一个内部表student,字段有name,sex,其中sex是分区字段,目前有两个分区,sex=1和sex=2.我在hdfs上hive内部表的默认目录中删除了sex=2的目录,然后执行s…

好听的两个字的网名 2021-12-02 21:05:33 775 0

java 操作hdfs集群问题

用java的API操作HDFS,get方法传入的是主节点地址,如果集群出现主从切换,就会出问题,官方有集群版的API吗? 还是只能自己实现一套集群检测机制呢 …

夜司空 2021-12-02 15:04:27 896 0

CDH5.7.2环境跑比较大的任务时候,其他任务一直等待

CDH5.7.2环境跑比较大的任务时候,其他任务一直等待,小任务可以并行, 关键这个大任务,其实也不大也就10G的数据,我的配置8台128G内存的,CPU和内存…

平定天下 2021-12-01 20:59:35 635 0

关于flume向hdfs写入文件的问题

flume通过spooldir向hdfs写入文件时,为了避免频繁产生新文件,设置了每128M产生一个新文件。 spooldir是每分钟产生大量小文件 但是运行过程中发现一…

夜无邪 2021-12-01 17:52:07 879 0

Hadoop启动失败

分布式安装Hadoop出错,配置有一台master,三台slave。 master上namenode 和resourcemanager启动错误。jdk、环境变量和ssh无密码登陆均已设置。日志如…

野心澎湃 2021-12-01 14:39:15 943 0

hdfs 导入hive表失败,创建hive外部表失败了

FAILED: ParseException line 3:1 missing EOF at 'ROWFORMAT' near ')' &nbsp &nbsp &nbspCREATE&nbspEXTERNAL&nbspTABLE&nbspwifite&nbsp(time&nbs…

归属感 2021-12-01 08:07:41 737 0

sqoop 从mysql数据迁移到hdfs中

我在连接数据库的时候显示都能连接上,list表的时候也能显示所有的表。但是我在导入数据的时候走到: guoyachao@master :~/software/hbase-0.94.11$ …

卸妝后依然美 2021-12-01 05:35:19 1015 0

hdfs资源同步问题

场景如下: 1.2个集群互不通信,只有2台主机可以通过sftp命令连接。 2.主机1上有个磁盘约50G,需要先从集群A上hdfs fs -get文件,然后通过sftp命令拉…

墨洒年华 2021-11-30 23:05:28 852 0

hbase存储手机通话记录,使用什么作为rowkey?

想用hbase存储业务数据,但业务数据的主键都是按时间递增的值 数据量很大,如果采用数据的主键作为rowkey?&nbsp 因为一个region只能由一个服务器管理…

泛滥成性 2021-11-30 20:19:46 791 0

hadoop namenode能承受多大的访问量???

我现在有一个hadoop集群,但是只有一个namenode,我想知道我的namenode能承受多大的访问量?namenode一宕机整个集群都玩完了。或者有没有什么方案可以…

风苍溪 2021-11-30 17:33:09 487 0

Hive向分区表导入数据File not found: File does not exist:reduce.xml

启动hdfs正常,NN、DN、SN都正常。 启动hive只有一个runjar进程,但查询、建本地表、查表都正常。 在从本地表tb3导入分区表tb4_p时出错: insert ove…

毁梦 2021-11-30 15:33:13 994 0

求大神!!使用Cloudera安装Hadoop,数据块自动检测与复制非常慢,平均副本不够3份,怎么破

求技术大神、Hadoop大牛: 使用Cloudera 5.2 安装了 Hadoop 平台,共15个节点,在同个私网,千兆带宽,目前数据量约为80T左右,但最近使用 hdfs fsck…

反话 2021-11-30 05:07:38 757 0

HBase存储较大视频文件是如何存储的

HBase存储一个很大的文件(例如5G的视频),是如何放入表中的…

风苍溪 2021-11-30 01:58:22 886 0

hive执行报错 cdh5.1.2中?

在cdh5.1.2中执行hive, 执行诸如select id,name from test的语句 只有使用hdfs用户能正常执行,使用其他用户不可以 另外,使用hive jdbc执行SQL时,…

一笔一画续写前缘 2021-11-29 04:50:17 957 0

hadoop的hdfs的文件系统里面有这个错误日志,信息,看看

!SESSION 2016-01-26 15:31:59.407 ----------------------------------------------- eclipse.buildId=4.5.1.M20150904-0015 java.version=1.8.0_60 …

浅沫记忆 2021-11-29 02:50:39 831 0
更多

推荐作者

留蓝

文章 0 评论 0

18790681156

文章 0 评论 0

zach7772

文章 0 评论 0

Wini

文章 0 评论 0

ayeshaaroy

文章 0 评论 0

初雪

文章 0 评论 0

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文