Hadoop回收站功能

2019-03-28 13:19|来源: 网络

回收站简介
在HDFS里,删除文件时,不会真正的删除,其实是放入回收站/trash
回收站里的文件可以快速恢复。
可以设置一个时间阈值,当回收站里文件的存放时间超过这个阈值或是回收站被清空时,文件才会被彻底删除,并且释放占用的数据块。

Hadoop 的回收站trash功能默认是关闭的,所以需要在core-site.xml中手动开启

--手动开启trash功能,添加fs.trash.interval属性
[grid@rac2 hadoop-0.20.2]$ bin/hadoop dfs -ls /user/grid/.Trash
ls: Cannot access /user/grid/.Trash: No such file or directory.

[grid@rac2 hadoop-0.20.2]$ vi conf/core-site.xml
<property>
<name>fs.trash.interval</name>   
<value>1440</value>   
<description>Number of minutes between trash checkpoints.   
    If zero, the trash feature is disabled.
</description>   
</property>

注:fs.trash.interval 的含义是文件删除后保留时长,默认为0,单位为分钟,这里设的是1天(60*24)

--测试删除数据
[grid@rac2 hadoop-0.20.2]$ bin/hadoop dfs -ls in
Found 2 items
-rw-r--r--  2 grid supergroup        12 2012-11-26 15:31 /user/grid/in/test1.txt
-rw-r--r--  2 grid supergroup        13 2012-11-26 15:31 /user/grid/in/test2.txt
[grid@rac2 hadoop-0.20.2]$ bin/hadoop dfs -rmr in
Moved to trash: hdfs://gc:9000/user/grid/in
[grid@rac2 hadoop-0.20.2]$ bin/hadoop dfs -rm abc
Moved to trash: hdfs://gc:9000/user/grid/abc

--检查回收站数据,发现多出了.Trash目录
[grid@rac2 hadoop-0.20.2]$ bin/hadoop dfs -ls /user/grid/.Trash
Found 1 items
drwxr-xr-x  - grid supergroup          0 2012-11-28 15:49 /user/grid/.Trash/Current
[grid@rac2 hadoop-0.20.2]$ bin/hadoop dfs -ls /user/grid/.Trash/Current
Found 1 items
drwxr-xr-x  - grid supergroup          0 2012-11-28 15:49 /user/grid/.Trash/Current/user
[grid@rac2 hadoop-0.20.2]$ bin/hadoop dfs -ls /user/grid/.Trash/Current/user
Found 1 items
drwx------  - grid supergroup          0 2012-11-28 15:50 /user/grid/.Trash/Current/user/grid
[grid@rac2 hadoop-0.20.2]$ bin/hadoop dfs -ls /user/grid/.Trash/Current/user/grid
Found 2 items
-rw-r--r--  2 grid supergroup          0 2012-11-27 14:04 /user/grid/.Trash/Current/user/grid/abc
drwxr-xr-x  - grid supergroup          0 2012-11-26 15:31 /user/grid/.Trash/Current/user/grid/in
注:在HDFS上的回收站数据在 /user/$USER/.Trash/Current/user/$USER/目录下

--恢复回收站数据
[grid@rac2 hadoop-0.20.2]$ bin/hadoop dfs -mv /user/grid/.Trash/Current/user/grid/in /user/grid/in
[grid@rac2 hadoop-0.20.2]$ bin/hadoop dfs -ls in
Found 2 items
-rw-r--r--  2 grid supergroup        12 2012-11-26 15:31 /user/grid/in/test1.txt
-rw-r--r--  2 grid supergroup        13 2012-11-26 15:31 /user/grid/in/test2.txt

--清空回收站
清空回收站命令:hdfs dfs -expunge
[grid@rac2 hadoop-0.20.2]$ bin/hadoop dfs -ls .Trash/Current/user/grid
Found 1 items
-rw-r--r--  2 grid supergroup          0 2012-11-27 14:04 /user/grid/.Trash/Current/user/grid/abc
[grid@rac2 hadoop-0.20.2]$ bin/hadoop dfs -expunge
12/11/28 16:09:12 INFO fs.Trash: Created trash checkpoint: /user/grid/.Trash/1211281609
[grid@rac2 hadoop-0.20.2]$ bin/hadoop dfs -ls .Trash/Current/user/grid
ls: Cannot access .Trash/Current/user/grid: No such file or directory.

相关问答

更多
  • 首先要确保你喜欢的图片,用来更改显示图标的要.ICO这个格式的。有了这个格式的图标后,你在桌面的空白处点击鼠标右键,然后选择“属性”--“桌面”--“自定义桌面”--“更改图标”--“浏览”,找到你要拿来更改的图片,点确定就可以了。 如果你喜欢的图片不是ICO格式的,那么你可以从网上下载: http://sc.chinaz.com/html/Icons/index_1.html 或者用格式转化器来进行转化
  • 您可以通过永久删除包含系统文件的驱动器上的回收站目录,从命令行中有效地“清空”回收站。 (在大多数情况下,这将是C:驱动器,但是您不应该对该值进行硬编码,因为它并不总是为真,而应使用%systemdrive%环境变量。) 这个策略的原因是因为每个驱动器都有一个名为$Recycle.bin的隐藏的受保护的文件夹,它是回收站实际存储已删除的文件和文件夹的地方。 当该目录被删除时,Windows会自动创建一个新目录。 因此,要删除该目录,请使用带有/s参数的rd命令( r emove d目录),这表示指定目录中的 ...
  • 注意:这也不适用于非Windows互动应用程序,如Windows服务 这个包装可以为您提供所需的功能: using System.Runtime.InteropServices; public class FileOperationAPIWrapper { /// /// Possible flags for the SHFileOperation method. /// [Flags] ...
  • Load you google doc url using iframe tag as shown below. String frameVideo = "Youtube video ..