Контрольная точка Flink на hdfs конфигурации HA namenode

Путь контрольной точки для flink является абсолютным путем hdfs, например hdfs://address:port/path, но когда hdfs находится в режиме HA, как установить конфигурацию flink для изменения URL-адреса узла имени hdfs?


person lzh    schedule 07.01.2019    source источник


Ответы (1)


При использовании Hadoop HA рекомендуется использовать clusterId. После этого URI будет выглядеть так: hdfs: //nameservice_id/path/file. Используйте этот URI вместо hdfs: //activeNamenodeHost/path. Надеюсь, это поможет.

Как установить здесь: NameNode HA при использовании hdfs: // URI.

Подробнее здесь: https://hadoop.apache.org/docs/r2.7.0/hadoop-project-dist/hadoop-hdfs/HDFSHighAvailabilityWithQJM.html

person moyiguke    schedule 07.01.2019