Вопросы по теме 'airflow-operator'
Как определить причину сбоя аутентификации в Airflow PostgresOperator?
Я новичок в воздушном потоке. В качестве первого обучающего упражнения я создал минимальную группу DAG, которая каждый час записывает значение в таблицу базы данных postgres. Однако мне не удалось установить соединение с базой данных postgres....
216 просмотров
schedule
28.08.2023
Есть ли какое-либо TriggerRule для оператора воздушного потока без триггера по времени (необходимо
У меня есть вариант использования для создания двух задач BigqueryOperator с одинаковой таблицей назначения, но мне нужно, чтобы одна запускалась ежедневно, а вторая запускалась вручную, когда мне нужно.
Ниже приведена иллюстрация представления в...
124 просмотров
schedule
03.10.2023
Apache Airflow - 1.10 - Как получить доступ к файлам SQL во время выполнения
TL; DR Как сделать так, чтобы ресурсы (файлы SQL, текстовые файлы) были доступны для задач в моем dag
Привет, народ,
Я использую установку Airflow с одним узлом (1.10.12). У меня есть даг, который использует операторы SQL. Для удобства чтения я...
38 просмотров
schedule
06.12.2023
Интервал расписания в воздушном потоке
Я пытаюсь понять, как работает интервал dag.
* * * * *
M H D M Y
И время в UTC.
Пример:
29 21 * * *
Это значило бы бегать каждый день в 21:29.
Я видел пример, когда год был 4. Что это будет значить?
29 21 * * 4
59 просмотров
schedule
09.02.2023
Как мне начать работу с Airflow, создав группу DAG, которая будет вызывать код Python, который у меня есть в другом репо (по расписанию)?
У меня есть репозиторий git на моем локальном компьютере здесь с некоторым кодом python c: \ repos \ myrepo \ src \ test.py ‹== сценарий python. Я хочу, чтобы Airflow запускался / выполнялся по расписанию
Он размещен на гитхабе.
У меня...
44 просмотров
schedule
05.09.2023
Пользовательский интерфейс Airflow не может найти модули провайдера
Я установил Airflow на сервер с Ubuntu и Python 3.8. Я пытаюсь импортировать простой даг в пользовательский интерфейс Airflow, чтобы перечислить файлы в ведре.
from airflow import DAG
from airflow.providers.amazon.aws.operators.s3_copy_object...
334 просмотров
schedule
16.09.2023
Нет модуля с именем «airflow.providers.ssh» в AWS Airflow (Amazon MWAA)
Мне нужно использовать sshoperator в DAG на AWS Airflow (Amazon MWAA), поэтому я импортировал следующую библиотеку в свой файл DAG.
from airflow.contrib.operators.ssh_operator import SSHOperator
Кажется, sshoperator был определен в библиотеке...
279 просмотров
schedule
17.05.2024
Как вызвать функцию Python в TriggerDagRunOperator
Я пытаюсь вызвать DAG из другой DAG (target_dag из parent_dag).
Мой код parent_dag:
from datetime import datetime
from airflow.models import DAG
from airflow.operators.python_operator import PythonOperator
from airflow.models import Variable
from...
45 просмотров
schedule
13.06.2023