Как создать расписание приоритетной очереди в Autosys?

Доступные технологии: Autosys, Informatica, сценарии Unix, базы данных (доступны через информатику)

В настоящее время наша партия работает так: наблюдатели за файлами ищут файл с именем «control.txt», который удаляется, когда канал начинает обрабатываться. Он воссоздается после завершения, что позволяет всем ожидающим «контрольным» заданиям autosys получить управляющий файл и начать обработку каналов данных один за другим.

Однако система разрослась, и некоторые фиды стали более важными, чем другие, и мы ищем способы улучшить наш планировщик, чтобы отдавать приоритет фидам по сравнению с другими.

С текущим дизайном, когда один файл определяет, когда будет запущен следующий канал, это невозможно сделать, и я не смог найти простого решения, чтобы это произошло.

Пример:

1. Feed A is processing
2. Feed B, Feed C, Feed X, Feed F come in while Feed A is processing
3. Need to ensure that Feed B is processed next, even though C, X, F are ready. 
4. C, X, F have a lower priority than A and B, but have the same priority and can process in any order

person Christian    schedule 03.05.2017    source источник
comment
Вы также можете переименовать файл control.txt в соответствии с фидами.   -  person Jim Macaulay    schedule 04.05.2017


Ответы (2)


Очень интересный вопрос. Одна вещь, о которой я могу думать, - это дополнительное задание Autosys со сценарием оболочки, который копирует файл в определенном порядке. Нравиться:

  • Создайте входную папку, например. Папка этапа
  • Давайте назовем вашу текущую папку ввода Autosys «InputFolder».
  • Пусть Autosys следит за этим и для любого файла запускает OrderedFileCopyScript.sh каждую минуту.
  • OrderedFileCopyScript.sh должен копировать один файл из StageFolder в InputFolder в желаемом порядке, только если InputFolder пуст.

Надеюсь, я ясно выразился.

person Maciejg    schedule 04.05.2017
comment
Это только начало, проблема в том, что изменение имен и местоположения файлов создаст большой объем дополнительной работы, из-за которой проект будет считаться невыполнимым. Однако я знаю, что вы не могли этого знать. - person Christian; 04.05.2017
comment
Ну... Я просто подкидываю некоторые идеи в рамках заданных ограничений :) Однако: никаких изменений имени файла не потребуется, только дополнительная папка. - person Maciejg; 05.05.2017
comment
Да, извини, поэтому я и пытался сказать. Я очень признателен за любую помощь. Я просто не был достаточно подробным. Извини. - person Christian; 05.05.2017

Я против использования Autosys для этого требования! Неправильный инструмент!

Я не знаю всех подробностей, но рассматриваю приложение с обычными справочными таблицами.

В этом случае вы должны использовать справочную таблицу каналов, чтобы включить относительные приоритеты.

Я бы предложил создать (или повторно использовать) таблицу для загрузки последующим заданием наблюдателя за файлами.

1) Таблица, содержащая необработанный файл с соответствующим приоритетом, а затем использующая эту таблицу для обработки файлов на основе приоритета.

2) Удалите/заархивируйте записи после завершения.

3) Выполните еще одно задание и запустите его как демон с параметрами start_times/run_window.

Это обеспечивает гибкость при изменении приоритетов и упрощает общий дизайн.

Это дает

person Rakesh    schedule 24.05.2017