Запрос все еще выполняется после завершения

При успешном выполнении запросов HiveQL (с механизмом выполнения TEZ) в Hue на Hortonworks процесс по-прежнему помечается как «Выполняется» в разделе «Браузер заданий Hue» и «пользовательский интерфейс Hadoop ResourceManager». Должен ли он делать это в ожидании нового ввода или он не может завершиться?

Моя установка:

  • HortonWorks HDP-2.3.2.9-2950, ​​работающий на 3 компьютерах RH Linux 7
  • Оттенок 3.9.0
  • Улей 1.2.1.2.3
  • Узи 4.2.0.2.3

person Eirik Y. Øra    schedule 04.01.2016    source источник
comment
Какой механизм выполнения для Hive: MapReduce или TEZ? Поскольку TEZ сохраняет аренду контейнеров YARN на несколько секунд, чтобы избежать ненужных операций выделения/освобождения при последовательном выполнении нескольких запросов (см. tez.am.container.reuse.enabled, tez.am.container.idle.release-timeout-min.millis, tez.am.container.reuse.rack-fallback.enabled и т. д. в tez-site.xml).   -  person Samson Scharfrichter    schedule 04.01.2016
comment
Спасибо Самсон! Можно ли настроить этот тайм-аут где-нибудь? (Я также написал окончательный ответ на основе вашего ответа)   -  person Eirik Y. Øra    schedule 05.01.2016
comment
Вы можете изменить эти tez.am.container.* свойства статически в tez-site.xml; или вы можете сбросить их динамически в своем скрипте Hive, например. set tez.am.container.reuse.enabled =false ; (но я не уверен, что это будет применяться сразу к уже выделенным контейнерам, так как AM уже запущен и работает)   -  person Samson Scharfrichter    schedule 05.01.2016


Ответы (2)


Как заявил Самсон Шарфрихтер:

Механизм выполнения TEZ сохраняет аренду контейнеров YARN в течение нескольких секунд после завершения запроса, чтобы избежать ненужных операций выделения/освобождения при последовательном выполнении нескольких запросов.

Это приведет к тому, что завершенное задание запроса будет отображаться как работающее в течение нескольких секунд после того, как окончательные результаты появятся во внешнем интерфейсе запросов Hive.

Спасибо, Самсон Шарфрихтер!

person Eirik Y. Øra    schedule 05.01.2016

Уменьшение времени ожидания для tez.session.am.dag.submit.timeout.secs может помочь. Время в сек.

<property>
<name>tez.session.am.dag.submit.timeout.secs</name>
<value>10</value>
</property>

/etc/tez-site.xml.

person desaiankitb    schedule 03.07.2017