Вопросы по теме 'airflow-operator'

Как определить причину сбоя аутентификации в Airflow PostgresOperator?
Я новичок в воздушном потоке. В качестве первого обучающего упражнения я создал минимальную группу DAG, которая каждый час записывает значение в таблицу базы данных postgres. Однако мне не удалось установить соединение с базой данных postgres....
216 просмотров

Есть ли какое-либо TriggerRule для оператора воздушного потока без триггера по времени (необходимо
У меня есть вариант использования для создания двух задач BigqueryOperator с одинаковой таблицей назначения, но мне нужно, чтобы одна запускалась ежедневно, а вторая запускалась вручную, когда мне нужно. Ниже приведена иллюстрация представления в...
124 просмотров
schedule 03.10.2023

Apache Airflow - 1.10 - Как получить доступ к файлам SQL во время выполнения
TL; DR Как сделать так, чтобы ресурсы (файлы SQL, текстовые файлы) были доступны для задач в моем dag Привет, народ, Я использую установку Airflow с одним узлом (1.10.12). У меня есть даг, который использует операторы SQL. Для удобства чтения я...
38 просмотров
schedule 06.12.2023

Интервал расписания в воздушном потоке
Я пытаюсь понять, как работает интервал dag. * * * * * M H D M Y И время в UTC. Пример: 29 21 * * * Это значило бы бегать каждый день в 21:29. Я видел пример, когда год был 4. Что это будет значить? 29 21 * * 4
59 просмотров

Как мне начать работу с Airflow, создав группу DAG, которая будет вызывать код Python, который у меня есть в другом репо (по расписанию)?
У меня есть репозиторий git на моем локальном компьютере здесь с некоторым кодом python c: \ repos \ myrepo \ src \ test.py ‹== сценарий python. Я хочу, чтобы Airflow запускался / выполнялся по расписанию Он размещен на гитхабе. У меня...
44 просмотров

Пользовательский интерфейс Airflow не может найти модули провайдера
Я установил Airflow на сервер с Ubuntu и Python 3.8. Я пытаюсь импортировать простой даг в пользовательский интерфейс Airflow, чтобы перечислить файлы в ведре. from airflow import DAG from airflow.providers.amazon.aws.operators.s3_copy_object...
334 просмотров
schedule 16.09.2023

Нет модуля с именем «airflow.providers.ssh» в AWS Airflow (Amazon MWAA)
Мне нужно использовать sshoperator в DAG на AWS Airflow (Amazon MWAA), поэтому я импортировал следующую библиотеку в свой файл DAG. from airflow.contrib.operators.ssh_operator import SSHOperator Кажется, sshoperator был определен в библиотеке...
279 просмотров
schedule 17.05.2024

Как вызвать функцию Python в TriggerDagRunOperator
Я пытаюсь вызвать DAG из другой DAG (target_dag из parent_dag). Мой код parent_dag: from datetime import datetime from airflow.models import DAG from airflow.operators.python_operator import PythonOperator from airflow.models import Variable from...
45 просмотров
schedule 13.06.2023