일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | |
7 | 8 | 9 | 10 | 11 | 12 | 13 |
14 | 15 | 16 | 17 | 18 | 19 | 20 |
21 | 22 | 23 | 24 | 25 | 26 | 27 |
28 | 29 | 30 |
- Task
- SecretsManager
- mysql
- authoring
- kinesis
- XCOM
- git book
- Data Firehose
- Concept
- boto3
- pipeline
- TaskFlow
- lambda
- AWS
- DAG
- github actions
- Scheduling
- S3
- dagrun
- credentials
- Git
- dynamic task mapping
- celery
- executor
- RDS
- sqs
- airflow
- testing
- ci/cd
- Operator
- Today
- Total
목록Operator (2)
CS
Airflow Operators, Airflow Sensors OperatorSensorJinja 템플릿파이썬 내장 객체로 렌더링하기 Operator오퍼레이터는 사전에 정의된 Task 템플릿입니다. DAG에서 오퍼레이터를 선언하여 task를 만들 수 있습니다.※ Task와 오퍼레이터는 대부분 상호 교환 가능한 개념입니다. 다만 Task를 말할 때는 DAG의 "실행 단위"를 뜻하고, 오퍼레이터를 말할 때는 재사용 가능한 미리 만들어진 task 템플릿을 가리킵니다.with DAG("my-dag") as dag: ping = SimpleHttpOperator(endpoint="http://example.com/update/") email = EmailOperator(to="admin@example...
Airflow 2.0부터 TaskFlow API가 도입되어 해당 방식으로 DAG를 정의할 수 있습니다.TaskFlow API를 사용하면 DAG나 오퍼레이터 객체를 생성할 필요 없이, Task를 구현한 함수에 필요한 데코레이터만 붙이면 DAG를 만들 수 있어 문법이 간단해집니다.(Airflow 페이지의 Working with TaskFlow 문서를 따릅니다.) TaskFlow로 정의된 DAG예제 스크립트를 보며 TaskFlow API의 형식을 알아보겠습니다.스크립트는 airflow.example_dags.tutorial_taskflow_api.py입니다.DAG 인스턴스 생성import jsonimport pendulumfrom airflow.decorators import dag, task@dag( ..