Как скопировать файл из HDFS в локальную файловую систему



Как скопировать файл из HDFS в локальную файловую систему . Под файлом нет физического местоположения файла, даже каталога . как я могу переместить их в свой локальный для дальнейшей проверки.я пробовал через WinSCP .

796   6  

6 ответов:

  1. bin/hadoop fs -get /hdfs/source/path /localfs/destination/path
  2. bin/hadoop fs -copyToLocal /hdfs/source/path /localfs/destination/path
  3. веб-браузере HDFS WEBUI(namenode_machine:50070), найдите файл, который вы хотите скопировать, прокрутите страницу вниз и нажмите на кнопку скачать файл.

для копирования файлов из HDFS в локальную файловую систему можно выполнить следующую команду:

hadoop dfs -copyToLocal <input> <output>

  • <input>: путь к каталогу HDFS (например, mydata), который вы хотите скопировать
  • <output>: путь к каталогу назначения (например, ~ / Documents)

В Hadoop 2.0,

hdfs dfs -copyToLocal <hdfs_input_file_path> <output_path>

здесь

  • hdfs_input_file_path может быть получено из http://<<name_node_ip>>:50070/explorer.html

  • output_path - это локальный путь к файлу, в который должен быть скопирован файл.

  • вы также можете использовать get на месте copyToLocal.

вы можете выполнить оба этих способа.

1.hadoop fs -get <HDFS file path> <Local system directory path>
2.hadoop fs -copyToLocal <HDFS file path> <Local system directory path>

Ex:

Мои файлы находятся в / sourcedata / mydata.txt Я хочу скопировать файл в локальную файловую систему по этому пути / user / ravi / mydata

hadoop fs -get /sourcedata/mydata.txt /user/ravi/mydata/

Это сработало для меня на моем экземпляре виртуальной машины Ubuntu.

hdfs dfs-copyToLocal [Hadoop directory] [local directory]

bin/hadoop fs -put /localfs/destination/path /hdfs/source/path 

Comments

    Ничего не найдено.