由于Airflow的自动环境变量扩展(请参阅 设置配置选项 ),您还可以设缺伏置env var AIRFLOW__CORE__UNIT_TEST_MODE 以临时覆盖airflow.cfg。
步骤一:安装Airflowdocker pull airflow
1
docker pull airflow
步骤二:修改默认路径
这里如果不修改路径,默认的配置拍颤就是 ~/airflow
临时修改 AIRFLOW_HOME 环境变量, 这里的 /home/airflow 可以替换成你想要的文件夹目录
export AIRFLOW_HOME=/home/airflow
1
export AIRFLOW_HOME=/home/airflow
永久修改环境变量
echo "export AIRFLOW_HOME=/home/airflow" >>/etc/profile
source /etc/profile
1
2
echo "export AIRFLOW_HOME=/home/airflow" >袭数败>/etc/profile
source /etc/profile
系统默认的配置文件是从 airflow包的configuration.py文件中获取的,在设置了路径和airflow.cfg之后,配置将由airflow.cfg所替代。
步骤三:修改默认数据库
找到配置文件
vi /home/airflow/airflow.cfg
1
vi /home/airflow/airflow.cfg
修改sql配置
sql_alchemy_conn = mysql://root:FinanceR@localhost:3306/airflow
1
sql_alchemy_conn = mysql://root:FinanceR@localhost:3306/airflow
注意到,之毕搜前使用的 mysql+driver://root:FinanceR@localhost:3306/airflow的方式是行不通的。
初始化服务器的数据库
airflow initdb
1
airflow initdb
airflow webserver
1
airflow webserver
就可以开启后台管理界面,默认访问localhost:8080即可。
步骤四:修改数据源配置
通过create按钮,添加相应的参数
步骤五:解决中文字符集显示问题
注意到 airflow 的所有.py文件都声明了 utf-8 字符集
# -*- coding: utf-8 -*-
1
# -*- coding: utf-8 -*-
如果需要显示中文,需要在extra选项中添加
{"charset":"utf8"}的配置
Airflow主要用于执行预定的批处理作业。它能够很好地管理不同的批量作业的关系,并给将复杂的关系图形化展示。
一句话:任何批量任务或者需要手动去触发执行的任务都可以考虑一下Airflow
airlow使用ansible role方式安装 https://github.com/idealista/airflow-role
更改role下的config.yml及templates/airflow-***.service.j2文件
将 /usr/local/bin/airflow 改为 /usr/bin/airflow
目的该拆雀敬role使用pkg只能在Debian 或 Ubuntu 环境下安装,更改后,可以在centos环境下安装
执行完以上 *** 作后本机就安装好了airflow,同时也配置好了service等。
安装旅慎好后展示
Airflow中文文档
任务调度神器 airflow 之初体验
airflow 安装,部署,填坑
airflow 配置 CeleryExecutor
浅谈调度工具——Airflow
如何部署一个健岁皮壮的 apache-airflow 调度系统
Airflow工作模式及适用场景
浅谈调度工具——Airflow
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)