Hadoop学习之web查看HADOOP以及文件的上传和下载_info sasl.sasldatatransferclient: sasl encryption -程序员宅基地

技术标签: hadoop  大数据  

Hadoop学习之web查看HADOOP

1.web端查看HDFS的NameNode

浏览器输入:http://hadoop1002:9870

查看HDFS上储存的数据信息

2.Web端查看YARN的ResourceManager

浏览器输入:http://hadoop1003:8088
查看YARN上运行的Job信息

## 3.基本测试

1.小文件上传

[admin@hadoop1002 hadoop-3.1.3]$ hadoop fs -mkdir /input

将wcinput中的word.txt上传到Hadoop服务器的/input中

[admin@hadoop1002 hadoop-3.1.3]$ hadoop fs -put wcinput/word.txt /input
2021-11-07 23:15:36,408 INFO sasl.SaslDataTransferClient: SASL encryption trust check: localHostTrusted = false, remoteHostTrusted = false

2.上传大文件

上传JDK

[admin@hadoop1002 hadoop-3.1.3]$ cd /opt/software/
[admin@hadoop1002 software]$ hadoop fs -put jdk-8u212-linux-x64.tar.gz /input
2021-11-07 23:17:38,955 INFO sasl.SaslDataTransferClient: SASL encryption trust check: localHostTrusted = false, remoteHostTrusted = false
2021-11-07 23:17:44,960 INFO sasl.SaslDataTransferClient: SASL encryption trust check: localHostTrusted = false, remoteHostTrusted = false

上传完成后找到切块文件

[admin@hadoop1002 subdir0]$ pwd
/opt/module/hadoop-3.1.3/data/dfs/data/current/BP-327896306-192.168.10.102-1635769112986/current/finalized/subdir0/subdir0
[admin@hadoop1002 subdir0]$ ll
总用量 191944
-rw-rw-r--. 1 admin admin        57 11月  2 15:15 blk_1073741827
-rw-rw-r--. 1 admin admin        11 11月  2 15:15 blk_1073741827_1003.meta
-rw-rw-r--. 1 admin admin 134217728 11月  2 15:21 blk_1073741828//这个拼接
-rw-rw-r--. 1 admin admin   1048583 11月  2 15:21 blk_1073741828_1004.meta
-rw-rw-r--. 1 admin admin  60795424 11月  2 15:21 blk_1073741829//这个拼接
-rw-rw-r--. 1 admin admin    474975 11月  2 15:21 blk_1073741829_1005.meta

拼接将切块文件拼接后看是否为完整的jdk安装包文件并查看

[admin@hadoop1002 subdir0]$ cat blk_1073741828>>tmp.tar.gz 
[admin@hadoop1002 subdir0]$ cat blk_1073741829>>tmp.tar.gz

[admin@hadoop1002 subdir0]$ ll
总用量 585160
-rw-rw-r--. 1 admin admin        57 11月  7 23:15 blk_1073741825
-rw-rw-r--. 1 admin admin        11 11月  7 23:15 blk_1073741825_1001.meta
-rw-rw-r--. 1 admin admin 134217728 11月  7 23:17 blk_1073741828
-rw-rw-r--. 1 admin admin   1048583 11月  7 23:17 blk_1073741826_1002.meta
-rw-rw-r--. 1 admin admin  60795424 11月  7 23:17 blk_1073741829
-rw-rw-r--. 1 admin admin    474975 11月  7 23:17 blk_1073741827_1003.meta
-rw-rw-r--. 1 admin admin 195013152 11月  7 23:38 tmp.tar.gz

解压tmp.tar.gz到当前路径并查看发现正是jdk

[admin@hadoop1002 subdir0]$ tar -zxvf tmp.tar.gz
[admin@hadoop1002 subdir0]$ ll
总用量 585160
-rw-rw-r--. 1 admin admin        57 11月  7 23:15 blk_1073741825
-rw-rw-r--. 1 admin admin        11 11月  7 23:15 blk_1073741825_1001.meta
-rw-rw-r--. 1 admin admin 134217728 11月  7 23:17 blk_1073741826
-rw-rw-r--. 1 admin admin   1048583 11月  7 23:17 blk_1073741826_1002.meta
-rw-rw-r--. 1 admin admin  60795424 11月  7 23:17 blk_1073741827
-rw-rw-r--. 1 admin admin    474975 11月  7 23:17 blk_1073741827_1003.meta
drwxr-xr-x. 7 admin admin       245 4月   2 2019 jdk1.8.0_212
-rw-rw-r--. 1 admin admin 195013152 11月  7 23:38 tmp.tar.gz

下载

[admin@hadoop1002 hadoop-3.1.3]$ hadoop fs -get /input/jdk-8u212-linux-x64.tar.gz ./
2021-11-07 23:48:01,885 INFO sasl.SaslDataTransferClient: SASL encryption trust check: localHostTrusted = false, remoteHostTrusted = false

/input/jdk-8u212-linux-x64.tar.gz该路径为hadoop中 jdk文件上传后保存的绝对路径 ./下载下来之后存放与当前目录

以上就是web查看HADOOP以及文件的上传和下载的所有操作内容了,欢迎大家阅读。你的鼓励就是我创作的最大动力!!!

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/a2957827124/article/details/123854885

智能推荐

【论文阅读笔记】Continual Diffision: Continual Customization of Text-to-Image Diffusion with C-LoRA_continual diffusion: continual customization of te-程序员宅基地

文章浏览阅读289次,点赞4次,收藏2次。本文介绍了C-LoRA,在文生图持续学习问题中通过将多个LoRA正则化以减少灾难性损失的方法。_continual diffusion: continual customization of text-to-image diffusion with

2024上半年软考别轻易尝试!先了未发布_计算机软考2024-程序员宅基地

文章浏览阅读431次,点赞7次,收藏5次。软考共设有27个不同的资格类别,按照方向划分为五大方向,包括计算机软件、计算机网络、计算机应用技术、信息系统和信息服务,同时还有三个不同的等级,即初级、中级和高级。只要遵守中华人民共和国的宪法和法律,并具备一定的计算机技术应用能力,任何人都可以根据自己的情况报名参加相应专业类别和级别的考试。1、2023年下半年起,软考已经从传统的纸笔考试改革为机考形式,这意味着备考2024年的考生需要调整答题方式。5、软考备考需要有老师的指导和学友的陪伴,才能保持良好的心态并坚持下去,否则很容易半途而废。_计算机软考2024

str计算机中代表什么,STR到底是待机还是休眠-程序员宅基地

文章浏览阅读4.2k次,点赞2次,收藏16次。1。为什么需要待机、休眠尽管电脑硬件运行速度越来越快,但操作系统的体积也在不断膨胀,使得电脑开、关机时,启动、关闭的程序越来越多,花费时间也越来越漫长。因此如何让电脑能够快速启动、一开机就进入Windows,就成为用户关心的问题。于是,随着硬件和软件的升级,操作系统开始引入了高级电源管理,其作用就是在电脑闲置时关闭部分设备,将电脑进入等待休息状态,这样当需要重新使用电脑时,能够直接从等待休息状态尽..._str待机

Win7安装程序遇到错误代码0xc8000222的解决方法(亲测有效)-程序员宅基地

文章浏览阅读3.5k次,点赞2次,收藏7次。升级安装win7系统后,经常需要安装程序软件,安装程序过程中难免遇到一些错误问题,比如最近有些用户在Win7旗舰版系统中遇到一个问题,安装程序失败遇到错误代码0xc8000222,也不知道怎么处理。今天小编就来和大家介绍在Win7系统中安装程序时遇到错误0xc8000222的处理方法,有需要的用户一起来看下具体操作吧。Win7安装程序遇到错误代码0xc8000222的解决方法 解决方法: 1、点击“开始”->”所有程序”->”命令提示符”右键以管理员身份运行,然后输入:net stop W_0xc8000222

centos7已有数据硬盘挂载_CentOS7挂载新数据盘的完整步骤-程序员宅基地

文章浏览阅读1.2k次。CentOS7挂载新数据盘的完整步骤前言刚刚买了一台新的VPS,新买的VPS的数据盘默认没有挂载到系统上,需要我们自己来挂载的。我们给服务器添加新的硬盘的时候都需要进行挂载操作,本文简要记录挂载操作过程。查看硬盘信息首先我们使用命令df -TH查看当前系统挂载的情况:我们看到并没有挂载新的数据盘,数据盘是200多G的。然后通过命令fdisk-l查看硬盘信息。可以看到有两块硬盘/dev/xvda和/..._已经装过centos7系统的硬盘如何挂载在新系统上

node 第十七天 使用rsa非对称加密 实现前后端加密通信 JSEncrypt和node-rsa_node rsa-程序员宅基地

文章浏览阅读749次。使用rsa非对称加密 实现前后端加密通信 JSEncrypt和node-rsa_node rsa

随便推点

无线运动传感器节点设计(A 题)-程序员宅基地

文章浏览阅读5.3k次,点赞12次,收藏11次。无线运动传感器节点设计(A 题)文章目录无线运动传感器节点设计(A 题)1. 任务2. 要求3. 说明1. 任务基于 TI 模拟前端芯片 ADS1292 和温度传感器 LMT70 设计制作无线运动传感器节点,节点采用电池供电,要求能稳定采集和记录使用者的心电信息、体表温度和运动信息。2. 要求(1) 基于 ADS1292 模拟前端芯片设计心电检测电路,完成使用者的心电信号实时测量,要求: (30 分)①实时采集和记录使用者的心电信号,实现动态心电图的测试与显示;②分析计算使用者的心率,心率测_无线运动传感器

springboot+cxf框架 WebService_springboot cxf webservice-程序员宅基地

文章浏览阅读1.3k次。Web Service是一个平台独立的,低耦合的,自包含的、基于可编程的web的应用程序,可使用开放的XML(标准通用标记语言下的一个子集)标准来描述、发布、发现、协调和配置这些应用程序,用于开发分布式的交互操作的应用程序。_springboot cxf webservice

微信小程序通过web-view跳转到小程序页面_webview跳转微信小程序页面-程序员宅基地

文章浏览阅读1.4w次,点赞5次,收藏24次。一、背景 博主这边的小程序大部分都使用了web-view,众所周知,使用web-view最大的问题就是和小程序之间进行交互的问题。我这边主要是从web-view跳转回小程序的demo。二、通过web-view跳转到小程序页面1、微信官方文档微信web-view文档2、关于web-view页面的用法:Page({ data: { url: '你的we_webview跳转微信小程序页面

Eclipse配置Android开发环境_eclipse配置安卓开发环境-程序员宅基地

文章浏览阅读4.5k次,点赞5次,收藏31次。Eclipse配置Android开发环境在eclipse中配置Android开发环境在eclipse中配置Android开发环境在配置好环境的eclipse中安装Android SDK(Software Development Kit)和ADT插件。SDK的安装过程主要参考这篇博客。_eclipse配置安卓开发环境

R730服务器做了raid的硬盘,插在R720上面可以用吗?-程序员宅基地

文章浏览阅读541次,点赞6次,收藏9次。戴尔R720戴尔R730。

计算机取证之Xplico ——合天网安实验室学习笔记-程序员宅基地

文章浏览阅读2.8k次,点赞3次,收藏19次。实验链接Xplico是一款开源的网络取证分析工具,其分析与呈现的能力非常强大。Xplico可以捕获Internet网络应用层流量,通过流量解析,解析出网络包中的各种应用数据,还原网络数据发送现场。通过本实验学习掌握Xplico使用方法,学会利用Xplico对网络流量进行分析取证。链接:http://www.hetianlab.com/expc.do?ce=10748f62-5706-403d-..._xplico