这里的话，我们主要是通过一个将结果集返回，然后通过转换的设置来实现的
这个转换，只要是将我们要遍历的结果集返回，
表输入，我们就是返回了5条记录，来做遍历
这里呢，我们就是需要遍历的转换了，这里，我们只是获取结果集，然后将结果集输出
还有一个很重要的一步，怎样让这个转换可以根据结果集的条数，去循环执行呢？
就是这个“执行每一个输入行”
网上有很多的例子，介绍怎样用JS来控制循环，这里我们也简单的测试下
这一步，和上面的一样，就是将结果集返回
这里主要是使用JS将结果集进行遍历，通过JS，将一些结果存放到变量里面，在后面的 *** 作中就可以使用了，通过${xxx}的方式使用
这个其实和Java、JS里面循环思路一样，通过结果集的总数“total_num”和下标“LoopCounter”进行判断
这一步，就是判断下标的值和结果集的总数，进行对比，
输出下，我们想要使用的变量
这一步，给下标加一，然后获取下一条记录
好了，执行下，我们看看启动kettle，点击文件/新建/转换
点击保存，命名为demo1
选择主对象树，右键点击DB连接，点击新建
填写数据源链接相关参数，链接数据源
选择核心对象，选择输入，选择表输入，拖入设计器中
双击设计器中的表输入，打开属性设页面,在SQL编辑器中输入SQL脚本，例如
选择核心对象，选择流程，选择过滤记录，拖入设计器中，表输入链接过滤记录
双击过滤记录，打开编辑器
设置过滤条件
选择核心对象，选择应用，选择写日志，拖入设计器中
链接过滤记录
点击运行，将过滤结果打印出
至此，过滤记录完成
前面我们介绍了 Kettle的Spoon的转换和作业定时任务GUI设计方式以及运行，但是在实际应用中，我们需要计划任务是在服务器后台运行。
首先我们需要了解Kettle的Kitchen和Pan
Kitchen——作业(job)执行器 (命令行方式)
Pan——转换(trasform)执行器 (命令行方式)
下面我们将重点讲解经常会用到的 作业执行器 Kitchenbat 。
1、新建一个bat文件，命名jobbat，然后编辑，输入内容如下：
注意：确保路径的正确性。
2、双击jobbat，即可运行。
我们已经建立了命令行运行的bat文件，并且已经可以正确执行我们的ETL任务了，但是现在我们在运行bat后，桌面上面会一直存在一个控制台的黑窗口，我们可以使用bat命令中的隐藏窗口的命令。
修改我们的jobbat文件
在此双击jobbat运行，我们将不会再看到控制台黑窗口继续保留在桌面上，并且等待设置的间隔时间后，我们可以看到日志文件记录。
···
2017/12/07 16:51:26 - Kitchen - Logging is at level : 基本日志
2017/12/07 16:51:26 - Kitchen - Start of run
2017/12/07 16:51:31 - job2 - 开始执行任务
2017/12/07 16:51:31 - job2 - job2
2017/12/07 16:53:31 - job2 - 开始项[简单表同步]
2017/12/07 16:53:31 - 简单表同步 - Loading transformation from XML file [file:///D:/KettleProject/TEST2ktr]
2017/12/07 16:53:31 - 简单表同步 - Using run configuration [Pentaho local]
2017/12/07 16:53:31 - 简单表同步 - Using legacy execution engine
2017/12/07 16:53:31 - TEST2 - 为了转换解除补丁开始 [TEST2]
2017/12/07 16:53:32 - 表输入0 - Finished reading query, closing connection
2017/12/07 16:53:32 - 表输入0 - 完成处理 (I=3, O=0, R=0, W=3, U=0, E=0)
2017/12/07 16:53:32 - 插入 / 更新0 - 完成处理 (I=3, O=0, R=3, W=3, U=1, E=0)
···
上一篇： Kettle入门之三 Kettle定时任务（GUI）
下一篇： Kettle入门之五 Kettle应用场景（增量插入和更新）
2、值映射：类似于boolean，转成对应的中文显示
3、增加常量： 就是增加一个字段，并且给这个字段赋个固定值
4、字段选择：给字段重命名，例如，age=年龄，name=姓名
5、计算器：进行数据的计算，然后输出
6、字符串截取：类似与substring方法
7、去除重复记录：把所有重复的行去除掉
8、排序记录：根据字段排序，类似与mysql中的sort by asc，desc
9、唯一哈希：类似于去重
10、列转行，行专列：把一行数据拆分充多行；反之，把多列数据放到一行
kettle是一个ETL工具，ETL（Extract-Transform-Load的缩写，即数据抽取、转换、装载的过程）。
kettle中文名称叫水壶，该项目的主程序员MATT 希望把各种数据放到一个壶里，然后以一种指定的格式流出。
所以他的重心是用于数据
oozie是一个工作流，Oozie工作流是放置在控制依赖DAG（有向无环图 Direct Acyclic Graph）中的一组动作（例如，Hadoop的Map/Reduce作业、Pig作业等），其中指定了动作执行的顺序。
oozie工作流中是有数据流动的，但是重心是在于工作流的定义。
二者虽然都有相关功能及数据的流动，但是其实用途是不一样的。
查看帮助
列举出所有linux上的数据库
列举出所有Window上的数据库
查看数据库下的所有表
（1）确定mysql服务启动正常
查询控制端口和查询进程来确定，一下两种办法可以确认mysql是否在启动状态
办法1：查询端口
MySQL监控的TCP的3306端口，如果显示3306，证明MySQL服务在运行中
办法二：查询进程
可以看见mysql的进程
没有指定数据导入到哪个目录，默认是/user/root/表名
原因:
如果表中有主键,m的值可以设置大于1的值;如果没有主键只能将m值设置成为1;或者要将m值大于1,需要使用--split-by指定一个字段
设置了-m 1 说明只有一个maptask执行数据导入,默认是4个maptask执行导入 *** 作,但是必须指定一个列来作为划分依据
导入数据到指定目录
在导入表数据到HDFS使用Sqoop导入工具，我们可以指定目标目录。使用参数 --target-dir来指定导出目的地，使用参数—delete-target-dir来判断导出目录是否存在，如果存在就删掉
查询导入
提示：must contain '$CONDITIONS' in WHERE clause。
where id <=1 匹配条件
$CONDITIONS：传递作用。
如果 query 后使用的是双引号，则 $CONDITIONS前必须加转义符，防止 shell 识别为自己的变量。
--query时不能使用--table一起使用
需要指定--target-dir路径
导入到hdfs指定目录并指定要求
数据导出储存方式（数据存储文件格式---（ textfil parquet）--as-textfileImports data as plain text (default)--as-parquetfile Imports data to Parquet Files）
导入表数据子集到HDFS
sqoop导入blob数据到hive
对于CLOB，如xml文本，sqoop可以迁移到Hive表，对应字段存储为字符类型。
对于BLOB，如jpg，sqoop无法直接迁移到Hive表，只能先迁移到HDFS路径，然后再使用Hive命令加载到Hive表。迁移到HDFS后BLOB字段存储为16进制形式。
213导入关系表到Hive
第一步:导入需要的jar包
将我们mysql表当中的数据直接导入到hive表中的话，我们需要将hive的一个叫做hive-exec-110-cdh5140jar的jar包拷贝到sqoop的lib目录下
第二步:开始导入
导入关系表到hive并自动创建hive表
们也可以通过命令来将我们的mysql的表直接导入到hive表当中去
通过这个命令，我们可以直接将我们mysql表当中的数据以及表结构一起倒入到hive当中去
--incremental 增量模式。
append id 是获取一个某一列的某个值。
lastmodified “2016-12-15 15：47：35” 获取某个时间后修改的所有数据
-append 附加模式
-merge-key id 合并模式
--check-column 用来指定一些列，可以去指定多个列；通常的是指定主键id
--last -value 从哪个值开始增量
==注意:增量导入的时候,一定不能加参数--delete-target-dir 否则会报错==
第一种增量导入方式(不常用)
1Append方式
使用场景：有个订单表，里面每个订单有一个唯一标识的自增列id，在关系型数据库中以主键的形式存在。之前已经将id在0-1000之间的编号的订单导入到HDFS 中；如果在产生新的订单，此时我们只需指定incremental参数为append，--last-value参数为1000即可，表示只从id大于1000后开始导入。
（1）创建一个MySQL表
（2）创建一个hive表（表结构与mysql一致）
注意：
append 模式不支持写入到hive表中
2lastModify方式
此方式要求原有表有time字段，它能指定一个时间戳，让sqoop把该时间戳之后的数据导入到HDFS；因为后续订单可能状体会变化，变化后time字段时间戳也会变化，此时sqoop依然会将相同状态更改后的订单导入HDFS，当然我们可以只当merge-key参数为order-id，表示将后续新的记录和原有记录合并。
# 将时间列大于等于阈值的数据增量导入HDFS
使用 lastmodified 方式导入数据，要指定增量数据是要 --append（追加）还是要 --merge-key（合并）last-value 指定的值是会包含于增量导入的数据中。
第二种增量导入方式(推荐)
==通过where条件选取数据更加精准==
215从RDBMS到HBase
会报错
原因：sqoop146 只支持 HBase101 之前的版本的自动创建 HBase 表的功能。
解决方案：手动创建 HBase 表
导出前，目标表必须存在与目标数据库中
默认 *** 作是将文件中的数据使用insert语句插入到表中
数据是在HDFS当中的如下目录/sqoop/emp，数据内容如下
第一步：创建MySQL表
第二步：执行导出命令
通过export来实现数据的导出，将hdfs的数据导出到mysql当中去
全量导出
增量导出
更新导出
总结:
参数介绍
--update-key 后面也可以接多个关键字列名，可以使用逗号隔开，Sqoop将会匹配多个关键字后再执行更新 *** 作。
--export-dir 参数配合--table或者--call参数使用，指定了HDFS上需要将数据导入到MySQL中的文件集目录。
--update-mode updateonly和allowinsert。 默认模式为updateonly，如果指定--update-mode模式为allowinsert，可以将目标数据库中原来不存在的数据也导入到数据库表中。即将存在的数据更新，不存在数据插入。
组合测试及说明
1、当指定update-key，且关系型数据库表存在主键时：
A、allowinsert模式时，为更新目标数据库表存的内容，并且原来不存在的数据也导入到数据库表；
B、updateonly模式时，为更新目标数据库表存的内容，并且原来不存在的数据也不导入到数据库表；
2、当指定update-key，且关系型数据库表不存在主键时：
A、allowinsert模式时，为全部数据追加导入到数据库表；
B、updateonly模式时，为更新目标数据库表存的内容，并且原来不存在的数据也不导入到数据库表；
3、当不指定update-key，且关系型数据库表存在主键时：
A、allowinsert模式时，报主键冲突，数据无变化；
B、updateonly模式时，报主键冲突，数据无变化；
4、当不指定update-key，且关系型数据库表不存在主键时：
A、allowinsert模式时，为全部数据追加导入到数据库表；
B、updateonly模式时，为全部数据追加导入到数据库表；
实际案例:
(1)mysql批量导入hive
使用shell脚本：
笔者目前用sqoop把mysql数据导入到Hive中，最后实现命令行导入，sqoop版本147，实现如下
最后需要把这个导入搞成job，每天定时去跑，实现数据的自动化增量导入，sqoop支持job的管理，可以把导入创建成job重复去跑，并且它会在metastore中记录增值，每次执行增量导入之前去查询
创建job命令如下
创建完job就可以去执行它了
sqoop job --exec users
可以把该指令设为Linux定时任务，或者用Azkaban定时去执行它
hive导出到MySQL时，date类型数据发生变化？
问题原因：时区设置问题，date -R查看服务器时间，show VARIABLES LIKE "%time_zone"查看Mysql时间，system并不表示中国的标准时间，要将时间设置为东八区
（1）：对市面上最流行的两种调度器，给出以下详细对比，以供技术选型参考。总体来说，ooize相比azkaban是一个重量级的任务调度系统，功能全面，但配置使用也更复杂。如果可以不在意某些功能的缺失，轻量级调度器azkaban是很不错的候选对象。
（2）：功能：
两者均可以调度mapreduce,pig,java,脚本工作流任务；
两者均可以定时执行工作流任务；
（3）：工作流定义：
Azkaban使用Properties文件定义工作流；
Oozie使用XML文件定义工作流；
（4）：工作流传参：
Azkaban支持直接传参，例如${input}；
Oozie支持参数和EL表达式，例如${fs:dirSize(myInputDir)}；
（5）：定时执行：
Azkaban的定时执行任务是基于时间的；
Oozie的定时执行任务基于时间和输入数据；
（6）：资源管理：
Azkaban有较严格的权限控制，如用户对工作流进行读/写/执行等 *** 作；
Oozie暂无严格的权限控制；
（7）：工作流执行：
Azkaban有两种运行模式，分别是solo server mode(executor server和web server部署在同一台节点)和multi server mode(executor server和web server可以部署在不同节点)；
Oozie作为工作流服务器运行，支持多用户和多工作流；
（8）：工作流管理：
Azkaban支持浏览器以及ajax方式 *** 作工作流；
Oozie支持命令行、>流程是转换里面的第六个分类。
流程主要用来控制数据流程和数据流向。
Switch/case让数据流从一路到多路。
案例：
从Excel输入读取数据，按sex进行数据分类，把女性、男性、保密分别保存不同的Excel文件里面。
1表示男性
0表示女性
2表示保密
分析：
输入：Excel输入
流程：Switch/case
输出：Microsoft Excel输出
过滤记录让数据流从一路到两路
案例：
从Excel读取数据，分离出code列为空的数据，分别保存到不同的Excel文件
分析：
输入：Excel输入
流程：过滤记录
输出：Microsoft Excel输出
空 *** 作一般作为数据流的终点。（在kettle的sample中经常使用，但是实际开发中很少使用）
案例：
从Excel读取数据，分离code为空的数据，空数据不执行任何 *** 作，不为空的数据保存到Excel
分析：
输入：Excel输入
流程：过滤记录、空 *** 作
输出：Microsoft Excel输出
中止是数据流的终点，如果有数据到这里，将会报错。
用来校验数据的时候使用。
案例：
从Excel中读取数据，过滤去code列不为空的数据，不为空的数据保存在Excel，如果出现为空的数据就停止转换
分析：
输入：Excel输入
流程：过滤记录、中止
输出：Microsoft Excel输出
欢迎分享，转载请注明来源：内存溢出
微信扫一扫
支付宝扫一扫
评论列表（0条）