定义：HDFS(Hadoop Distributed File System),它是一个文件系统，用于存储文件，通过目录树来定位文件，它是分布式的，由很多服务器联合起来实现其功能。 场景：适合一次写入，多次读出的场景，且不支持文件的修改，适合用来做数据分析，不适合做网盘应用。 优点：1. 高容错性(数据保存多个副本，某个副本丢失后，可自动恢复)，2. 适合处理大数据，3. 可构建在廉价的机器上，通过多副本，提高可靠性。 缺点：1. 不适合做低延时数据访问。2. 无法高效的对大量小文件进行存储。3. 不支持并发写入和文件的随机修改。
1）客户端通过Distributed FileSystem模块向NameNode请求上传文件，NameNode检查目标文件是否已存在，父目录是否存在。 2）NameNode返回是否可以上传。 3）客户端请求第一个 Block上传到哪几个DataNode服务器上。 4）NameNode返回3个DataNode节点，分别为dn1、dn2、dn3。 5）客户端通过FSDataOutputStream模块请求dn1上传数据，dn1收到请求会继续调用dn2，然后dn2调用dn3，将这个通信管道建立完成。 6）dn1、dn2、dn3逐级应答客户端。 7）客户端开始往dn1上传第一个Block（先从磁盘读取数据放到一个本地内存缓存），以Packet为单位，dn1收到一个Packet就会传给dn2，dn2传给dn3；dn1每传一个packet会放入一个应答队列等待应答。 8）当一个Block传输完成之后，客户端再次请求NameNode上传第二个Block的服务器。（重复执行3-7步）。
1）客户端通过Distributed FileSystem向NameNode请求下载文件，NameNode通过查询元数据，找到文件块所在的DataNode地址。 2）挑选一台DataNode（就近原则，然后随机）服务器，请求读取数据。 3）DataNode开始传输数据给客户端（从磁盘里面读取数据输入流，以Packet为单位来做校验）。 4）客户端以Packet为单位接收，先在本地缓存，然后写入目标文件。
Fsimage文件：HDFS系统元数据的一个永久性检查点，包含HDFS的所有目录和文件inode序列化信息。 Edits文件：存放HDFS文件系统的所有更新操作的路径，文件系统客户端执行的所有操作首先会被记录到Edits文件中。
第一阶段：NameNode启动 （1）第一次启动NameNode格式化后，创建Fsimage和Edits文件。如果不是第一次启动，直接加载编辑日志和镜像文件到内存。 （2）客户端对元数据进行增删改的请求。 （3）NameNode记录操作日志，更新滚动日志。 （4）NameNode在内存中对元数据进行增删改。第二阶段：Secondary NameNode工作 （1）Secondary NameNode询问NameNode是否需要CheckPoint。直接带回NameNode是否检查结果。 （2）Secondary NameNode请求执行CheckPoint。 （3）NameNode滚动正在写的Edits日志。 （4）将滚动前的编辑日志和镜像文件拷贝到Secondary NameNode。 （5）Secondary NameNode加载编辑日志和镜像文件到内存，并合并。 （6）生成新的镜像文件fsimage.chkpoint。 （7）拷贝fsimage.chkpoint到NameNode。 （8）NameNode将fsimage.chkpoint重新命名成fsimage。1）一个数据块在DataNode上以文件形式存储在磁盘上，包括两个文件，一个是数据本身，一个是元数据包括数据块的长度，块数据的校验和，以及时间戳。 2）DataNode启动后向NameNode注册，通过后，周期性（1小时）的向NameNode上报所有的块信息。 3）心跳是每3秒一次，心跳返回结果带有NameNode给该DataNode的命令如复制块数据到另一台机器，或删除某个数据块。如果超过10分钟没有收到某个DataNode的心跳，则认为该节点不可用。 4）集群运行中可以安全加入和退出一些机器。
1）为节点配置集群环境 2）启动DataNode sbin/hadoop-daemon.sh start datanode 3）启动NodeManager sbin/yarn-daemon.sh start nodemanager
白名单方式： 在NameNode的hdfs-site.xml配置文件中增加dfs.hosts属性，white.hosts文件中为主机名称
<property> <name>dfs.hosts</name> <value>/opt/module/hadoop-2.7.2/etc/hadoop/white.hosts</value> </property>刷新NameNode节点 hdfs dfsadmin -refreshNodes 黑名单方式： 在NameNode的hdfs-site.xml配置文件中增加dfs.hosts.exclude属性,black.hosts文件中为要移除的主机名称
<property> <name>dfs.hosts.exclude</name> <value>/opt/module/hadoop-2.7.2/etc/hadoop/black.hosts</value> </property>刷新NameNode节点 hdfs dfsadmin -refreshNodes
如果数据不均衡，可以用命令实现集群的再平衡 sbin/start-balancer.sh
1. 启动Hadoop集群 sbin/start-dfs.sh # 开启HDFS sbin/start-yarn.sh # 开启YARN 2. FS的基本命令同Linux类似 hadoop fs -ls / # 显示根目录的信息 hadoop fs -mkdir -p /sanguo/shuguo # 新建/sanguo/shuguo文件夹 hadoop fs -moveFromLocal ./kongming.txt /sanguo/shuguo # 从本地剪切粘贴到HDFS hadoop fs -appendToFile liubei.txt /sanguo/shuguo/kongming.txt # 追加一个文件到已经存在的文件末尾 hadoop fs -copyFromLocal README.txt / # 从本地文件系统中拷贝文件到HDFS路径去 hadoop fs -put ./zaiyiqi.txt /user/atguigu/test/ # 此命令等同于copyFromLocal hadoop fs -copyToLocal /sanguo/shuguo/kongming.txt ./ # 从HDFS拷贝到本地 hadoop fs -get /sanguo/shuguo/kongming.txt ./ # 此命令等同于copyToLocal -chgrp -chmod -chown -cp -mv -tail -rm -rmdir -du # 这些命令都和Linux相同
