Airflow 中文文档:使用测试模式配置

Airflow 中文文档:使用测试模式配置,第1张

Airflow具有一组固定的“测试模式”配置选项。 您可以随时通过调用 airflow.configuration.load_test_config() 来加载它们(注意此 *** 作不可逆!)。 但是,在您有机会调用load_test_config()之前,会加载一些选项(如DAG_FOLDER)。 为了急纳纳切洞扮没加载测试配置,请在airflow.cfg中设置test_mode:

由于Airflow的自动环境变量扩展(请参阅 设置配置选项 ),您还可以设缺伏置env var AIRFLOW__CORE__UNIT_TEST_MODE 以临时覆盖airflow.cfg。

步骤一:安装Airflow

docker pull airflow

1

docker pull airflow

步骤二:修改默认路径

这里如果不修改路径,默认的配置拍颤就是 ~/airflow

临时修改 AIRFLOW_HOME 环境变量, 这里的 /home/airflow 可以替换成你想要的文件夹目录

export AIRFLOW_HOME=/home/airflow

1

export AIRFLOW_HOME=/home/airflow

永久修改环境变量

echo "export AIRFLOW_HOME=/home/airflow" >>/etc/profile

source /etc/profile

1

2

echo "export AIRFLOW_HOME=/home/airflow" >袭数败>/etc/profile

source /etc/profile

系统默认的配置文件是从 airflow包的configuration.py文件中获取的,在设置了路径和airflow.cfg之后,配置将由airflow.cfg所替代。

步骤三:修改默认数据库

找到配置文件

vi /home/airflow/airflow.cfg

1

vi /home/airflow/airflow.cfg

修改sql配置

sql_alchemy_conn = mysql://root:FinanceR@localhost:3306/airflow

1

sql_alchemy_conn = mysql://root:FinanceR@localhost:3306/airflow

注意到,之毕搜前使用的 mysql+driver://root:FinanceR@localhost:3306/airflow的方式是行不通的。

初始化服务器的数据库

airflow initdb

1

airflow initdb

airflow webserver

1

airflow webserver

就可以开启后台管理界面,默认访问localhost:8080即可。

步骤四:修改数据源配置

通过create按钮,添加相应的参数

步骤五:解决中文字符集显示问题

注意到 airflow 的所有.py文件都声明了 utf-8 字符集

# -*- coding: utf-8 -*-

1

# -*- coding: utf-8 -*-

如果需要显示中文,需要在extra选项中添加

{"charset":"utf8"}的配置

Airflow主要用于执行预定的批处理作业。它能够很好地管理不同的批量作业的关系,并给将复杂的关系图形化展示。

一句话:任何批量任务或者需要手动去触发执行的任务都可以考虑一下Airflow

airlow使用ansible role方式安装 https://github.com/idealista/airflow-role

更改role下的config.yml及templates/airflow-***.service.j2文件

将 /usr/local/bin/airflow 改为 /usr/bin/airflow

目的该拆雀敬role使用pkg只能在Debian 或 Ubuntu 环境下安装,更改后,可以在centos环境下安装

执行完以上 *** 作后本机就安装好了airflow,同时也配置好了service等。

安装旅慎好后展示

Airflow中文文档

任务调度神器 airflow 之初体验

airflow 安装,部署,填坑

airflow 配置 CeleryExecutor

浅谈调度工具——Airflow

如何部署一个健岁皮壮的 apache-airflow 调度系统

Airflow工作模式及适用场景

浅谈调度工具——Airflow


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/yw/12419734.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-05-25
下一篇 2023-05-25

发表评论

登录后才能评论

评论列表(0条)

保存