这篇文章主要介绍“datax环境部署和管理教程”,在日常操作中,相信很多人在datax环境部署和管理教程问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”datax环境部署和管理教程”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!
datax环境部署和管理
前期环境准备
python环境搭建
jdk环境搭建
搭建python环境
https://www.python.org/downloads/source/
搭建jdk环境
省略
部署datax环境
https://github.com/alibaba/DataX
{
"job": {
"content": [
{
"reader": {
"name": "streamreader",
"parameter": {
"sliceRecordCount": 10,
"column": [
{
"type": "long",
"value": "10"
},
{
"type": "string",
"value": "hello,你好,世界-DataX"
}
]
}
},
"writer": {
"name": "streamwriter",
"parameter": {
"encoding": "UTF-8",
"print": true
}
}
}
],
"setting": {
"speed": {
"channel": 5
}
}
}
}[root@localhost bin]# python datax.py ../job/stream2stream.json

部署datax-web环境
https://github.com/WeiYe-Jing/datax-web
https://pan.baidu.com/share/init?surl=3yoqhGpD00I82K4lOYtQhg cpsk
上面文件解压之后
建议先手动创建datax-web数据库,并初始化datax-web-2.1.2/bin/db/datax_web.sql
进入datax-web-2.1.2/modules/datax-admin/conf/bootstrap.properties手动更改dbc相关信息
进入datax-web-2.1.2 执行 ./bin/install.sh,默认选择Y,执行mysql初始化步骤跳过
进入datax-web-2.1.2/modules/datax-executor/bin/env.properties主要调整datax.py目录
## PYTHON脚本执行位置
#PYTHON_PATH=/home/hadoop/install/datax/bin/datax.py
PYTHON_PATH=/usr/local/datax/bin/datax.py
关于启动日志查看
1、datax-web-2.1.2/modules/datax-executor/bin/console.out
2、datax-web-2.1.2/modules/datax-admin/bin/console.out
到此,关于“datax环境部署和管理教程”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注天达云网站,小编会继续努力为大家带来更多实用的文章!