Java通过python命令执行DataX任务的实例

1.安装datax

2.安装python并配置环境变量

3.把mysql2odps.json文件放在datax安装目录的job文件夹下

4.运行Test.java测试

mysql2odps.json文件:

{
  "job": {
    "content": [
      {
        "reader": {
          "name": "mysqlreader",
          "parameter": {
            "username": "$username",
            "password": "$password",
            "where": "optime>='$startDate $startTime' and optime<'$endDate $endTime'",
            "column": ["id","xm"],
            "connection": [
              {
                "table": [
                  "test"
                ],
                "jdbcUrl": [
                  "$jdbcUrl"
                ]
              }
            ]
          }
        },
        "writer": {
          "name": "odpswriter",
          "parameter": {
            "accessId": "****************",
            "accessKey": "******************************",
            "column": ["id","xm"],
            "odpsServer": "http://service.odps.xxx.com/api",
            "partition": "bt=$bt,region=$region",
            "project": "dst_project_name",
            "table": "test"
          }
        }
      }
    ],
    "setting": {
      "speed": {
        "channel": 10
      }
    }
  }
}

测试程序(我的datax安装路径为F盘根目录):

import java.io.BufferedReader;
import java.io.InputStreamReader;

public class Test {

  public static void main(String[] args) {
    try {
      System.out.println("start");
      String windowcmd = "cmd /c python F:/datax/bin/datax.py -p \" -Dusername=root -Dpassword=1234 -DjdbcUrl=jdbc:mysql://192.168.1.122:3306/center -Dwhere=left(optime,10)=CURDATE() -Dbt=20171214 -Dregion=beijing \" F:/datax/job/mysql2odps.json";
      System.out.println(windowcmd);
      Process pr = Runtime.getRuntime().exec(windowcmd);
      BufferedReader in = new BufferedReader(new InputStreamReader(pr.getInputStream()));
      String line;
      while ((line = in.readLine()) != null) {
        System.out.println(line);
      }
      in.close();
      pr.waitFor();
      System.out.println("end");
    } catch (Exception e) {
      e.printStackTrace();
    }
  }

}

以上这篇Java通过python命令执行DataX任务的实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持我们。

(0)

相关推荐

  • Python 获取 datax 执行结果保存到数据库的方法

    执行 datax 作业,创建执行文件,在 crontab 中每天1点(下面有关系)执行: 其中 job_start 及 job_finish 这两行记录是自己添加的,为了方便识别出哪张表. #!/bin/bash source /etc/profile user1="root" pass1="pwd" user2="root" pass2="pwd" job_path="/opt/datax/job/" j

  • Java通过python命令执行DataX任务的实例

    1.安装datax 2.安装python并配置环境变量 3.把mysql2odps.json文件放在datax安装目录的job文件夹下 4.运行Test.java测试 mysql2odps.json文件: { "job": { "content": [ { "reader": { "name": "mysqlreader", "parameter": { "username&q

  • Python 2.x如何设置命令执行的超时时间实例

    前言 在Python2.x中的几个用来执行命令行的库或函数在执行命令是均不能设置一个命令执行的超时时间,用来在命令执行时间超时时终端这个命令的执行,这个功能在3.x(?)中解决了,但是在2.x还是只能自己实现.下面话不多说了,来一起看看详细的介绍吧. 下面就简单实现了一个版本: import subprocess from threading import Timer def call(args, timeout): p = subprocess.Popen(args, stdout=subpr

  • Python闭包执行时值的传递方式实例分析

    本文实例分析了Python闭包执行时值的传递方式.分享给大家供大家参考,具体如下: 代码中有问题和问题的解释. #!/usr/bin/python #coding: utf-8 # 判断一个人是否及格,如果满分150,则90及格,如果满分100,则60及格 # 开始的疑惑:当fun函数执行完以后,对应的val的值就应该消失,但是, # 当下面代码再次调用f(60)的时候(这个f()函数就是fun_c()函数) # 却能够打印出val的值??? def fun(val): 'val是得到的分数'

  • Java使用Statement接口执行SQL语句操作实例分析

    本文实例讲述了Java使用Statement接口执行SQL语句操作的方法.分享给大家供大家参考,具体如下: Statement执行SQL语句: 1. 对数据库的曾删改操作时,使用stmt.executeUpdate(sql)  执行给定 SQL 语句,分别为 insert .update.delete. 2. 对数据库做查询时,直接使用 stmt.executeQuery(sql),返回结果可以为一个resultSet结果集. 首先做一些准备工作: ①对要进行操作的数据库表进行封装,比如说我的数

  • 如何在Java中调用python文件执行详解

    目录 一.Java内置Jpython库(不推荐) 1.1 下载与使用 1.2 缺陷 二.使用Runtime.getRuntime()执行脚本⽂件 2.1 使用 2.2 缺陷 三.利用cmd调用python文件 3.1 使用 3.2 优化 总结 一.Java内置Jpython库(不推荐) 1.1 下载与使用 可以在官网下载jar包,官网:http://ftp.cuhk.edu.hk/pub/packages/apache.org/ 或者使用maven进行jar包下载 <dependency> &

  • 通过Java实现bash命令过程解析

    这篇文章主要介绍了通过Java实现bash命令过程解析,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下 1.BASH 命令简介 Bash,Unix shell的一种,在1987年由布莱恩·福克斯为了GNU计划而编写.1989年发布第一个正式版本,原先是计划用在GNU操作系统上,但能运行于大多数类Unix系统的操作系统之上,包括Linux与Mac OS X v10.4都将它作为默认shell. Bash是Bourne shell的后继兼容版本与开放

  • Selenium执行完毕未关闭chromedriver/geckodriver进程的解决办法(java版+python版)

    selenium操作chrome浏览器需要有ChromeDriver驱动来协助.webdriver中关浏览器关闭有两个方法,一个叫quit,一个叫close. /** * Close the current window, quitting the browser if it's the last window currently open. */ void close(); /** * Quits this driver, closing every associated window. */

  • 浅谈终端直接执行py文件,不需要python命令

    然后给脚本文件运行权限, 方法(1)chmod +x ./*.py 方法(2)chmod 755 ./*.py (777也无所谓啦) 这个命令不去调整,会出现permission denied的错误 终端直接执行. 如果在脚本内容的开头已经给出了类似于如下的注释: #!/usr/bin/env python(或者是 #!/usr/bin/python) 那就可以直接在终端里运行: ./*.py 如果没有这个注释 就在终端中执行: python ./*.py (注意:有些linux版本上运行即使上

  • python中执行shell命令的几个方法小结

    最近有个需求就是页面上执行shell命令,第一想到的就是os.system, 复制代码 代码如下: os.system('cat /proc/cpuinfo') 但是发现页面上打印的命令执行结果 0或者1,当然不满足需求了. 尝试第二种方案 os.popen() 复制代码 代码如下: output = os.popen('cat /proc/cpuinfo') print output.read() 通过 os.popen() 返回的是 file read 的对象,对其进行读取 read() 的

  • C++/Php/Python 语言执行shell命令的方法(推荐)

    编程中经常需要在程序中使用shell命令来简化程序,这里记录一下. 1. C++ 执行shell命令 #include <iostream> #include <string> #include <stdio.h> int exec_cmd(std::string cmd, std::string &res){ if (cmd.size() == 0){ //cmd is empty return -1; } char buffer[1024] = {0}; s

随机推荐