Ambari HDP 2.2: отказано в подключении к порту 8020

Итак, я установил амбари на кластер из трех экземпляров узла AWS EC2. Все сервисы горят зеленым цветом, т. е. вроде все работают нормально. Я могу выполнять все операции с файлами HDFS. Однако всякий раз, когда я пытаюсь запустить простую программу подсчета слов на экземпляре, он говорит, что не может получить доступ к порту 8020.

$ hadoop jar /usr/hdp/2.2.6.3-1/hadoop-mapreduce/hadoop-mapreduce-examples-2.6.0.2.2.6.3-1.jar wordcount  /tmp/wordcount/in /tmp/wordcount/out
15/08/21 05:28:02 INFO impl.TimelineClientImpl: Timeline service address: http://<fqdn for the namenode>:8188/ws/v1/timeline/
15/08/21 05:28:02 INFO client.RMProxy: Connecting to ResourceManager at <fqdn for the namenode>/10.0.0.55:8050
java.io.FileNotFoundException: File does not exist: hdfs://<fqdn for the namenode>:8020/hdp/apps/2.2.6.3-1/mapreduce/mapreduce.tar.gz
    at org.apache.hadoop.fs.Hdfs.getFileStatus(Hdfs.java:137)
    at org.apache.hadoop.fs.AbstractFileSystem.resolvePath(AbstractFileSystem.java:460)
    at org.apache.hadoop.fs.FileContext$25.next(FileContext.java:2180)
    at org.apache.hadoop.fs.FileContext$25.next(FileContext.java:2176)
    at org.apache.hadoop.fs.FSLinkResolver.resolve(FSLinkResolver.java:90)
    at org.apache.hadoop.fs.FileContext.resolve(FileContext.java:2176)
    at org.apache.hadoop.fs.FileContext.resolvePath(FileContext.java:595)
    at org.apache.hadoop.mapreduce.JobSubmitter.addMRFrameworkToDistributedCache(JobSubmitter.java:753)
    at org.apache.hadoop.mapreduce.JobSubmitter.submitJobInternal(JobSubmitter.java:435)
    at org.apache.hadoop.mapreduce.Job$10.run(Job.java:1296)
    at org.apache.hadoop.mapreduce.Job$10.run(Job.java:1293)
    at java.security.AccessController.doPrivileged(Native Method)
    at javax.security.auth.Subject.doAs(Subject.java:415)
    at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1628)
    at org.apache.hadoop.mapreduce.Job.submit(Job.java:1293)
    at org.apache.hadoop.mapreduce.Job.waitForCompletion(Job.java:1314)
    at org.apache.hadoop.examples.WordCount.main(WordCount.java:87)
    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
    at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
    at java.lang.reflect.Method.invoke(Method.java:606)
    at org.apache.hadoop.util.ProgramDriver$ProgramDescription.invoke(ProgramDriver.java:71)
    at org.apache.hadoop.util.ProgramDriver.run(ProgramDriver.java:144)
    at org.apache.hadoop.examples.ExampleDriver.main(ExampleDriver.java:74)
    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
    at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
    at java.lang.reflect.Method.invoke(Method.java:606)
    at org.apache.hadoop.util.RunJar.run(RunJar.java:221)
    at org.apache.hadoop.util.RunJar.main(RunJar.java:136)

Полное доменное имя — это выходные данные команды hostname -f, которая использовалась при создании кластера.

Я тоже пробовал телнетить, но и там соединение отказалось.

bt-prod-dev-02@ip-10-0-0-55:~$  telnet localhost 8020
Trying 127.0.0.1...
telnet: Unable to connect to remote host: Connection refused

Я не уверен, где искать.


amazon-ec2 hadoop ambari
person Tanny    schedule 21.08.2015    source источник
comment
Можете ли вы убедиться, что порт прослушивает этот хост? Каков результат следующей команды? netstat -tupln | группа 8020   -  person cjackson    schedule 21.08.2015
comment
Привет, @cjackson, да, порт работал. На самом деле проблема была слишком простой, я просто искал ошибку, которой на самом деле не было. Смотрите мой ответ для получения дополнительной информации.   -  person Tanny    schedule 23.08.2015

Ответы (1)


arrow_upward
0
arrow_downward

Это было простое «FileNotFoundException», о котором я ожидал, что установка ambari позаботится. Итак, проблема была решена, как только я поместил файл /usr/hdp/2.2.6.3-1/hadoop/mapreduce.tar.gz в hdfs://<fqdn for the namenode>:8020/hdp/apps/2.2.6.3-1/mapreduce/.

person Tanny    schedule 23.08.2015