java多线程更新数据库批量的数据信息吗?怎么实现?

java多线程更新数据库批量的数据信息吗?怎么实现?,第1张

//将数据库中的数据条数分段

public void division(){

//获取要导入的总的数据条数

String sql3="SELECT count(*) FROM [CMD].[dbo].[mycopy1]"

try {

pss=cons.prepareStatement(sql3)

rss=pss.executeQuery()

while(rss.next()){

System.out.println("总记录条数:"+rss.getInt(1))

sum=rss.getInt(1)

}

//每30000条记录作为一个分割点

if(sum>=30000){

n=sum/30000

residue=sum%30000

}else{

residue=sum

}

System.out.println(n+" "+residue)

} catch (SQLException e) {

// TODO Auto-generated catch block

e.printStackTrace()

}

}

线程类

public MyThread(int start,int end) {

this.end=end

this.start=start

System.out.println("处理掉余数")

try {

System.out.println("--------"+Thread.currentThread().getName()+"------------")

Class.forName(SQLSERVERDRIVER)

System.out.println("加载sqlserver驱动...")

cons = DriverManager.getConnection(CONTENTS,UNS,UPS)

stas = cons.createStatement()

System.out.println("连接SQLServer数据库成功!!")

System.out.println("加载mysql驱动.....")

Class.forName(MYSQLDRIVER)

con = DriverManager.getConnection(CONTENT,UN,UP)

sta = con.createStatement()

// 关闭事务自动提交

con.setAutoCommit(false)

System.out.println("连接mysql数据库成功!!")

} catch (Exception e) {

e.printStackTrace()

}

// TODO Auto-generated constructor stub

}

public ArrayList<Member>getAll(){

Member member

String sql1="select * from (select row_number() over (order by pmcode) as rowNum,*" +

" from [CMD].[dbo].[mycopy1]) as t where rowNum between "+start+" and "+end

try {

System.out.println("正在获取数据...")

allmembers=new ArrayList()

rss=stas.executeQuery(sql1)

while(rss.next()){

member=new Member()

member.setAddress1(rss.getString("address1"))

member.setBnpoints(rss.getString("bnpoints"))

member.setDbno(rss.getString("dbno"))

member.setExpiry(rss.getString("expiry"))

member.setHispoints(rss.getString("hispoints"))

member.setKypoints(rss.getString("kypoints"))

member.setLevels(rss.getString("levels"))

member.setNames(rss.getString("names"))

member.setPmcode(rss.getString("pmcode"))

member.setRemark(rss.getString("remark"))

member.setSex(rss.getString("sex"))

member.setTelephone(rss.getString("telephone"))

member.setWxno(rss.getString("wxno"))

member.setPmdate(rss.getString("pmdate"))

allmembers.add(member)

// System.out.println(member.getNames())

}

System.out.println("成功获取sqlserver数据库数据!")

return allmembers

} catch (SQLException e) {

// TODO Auto-generated catch block

System.out.println("获取sqlserver数据库数据发送异常!")

e.printStackTrace()

}

try {

rss.close()

stas.close()

} catch (SQLException e) {

// TODO Auto-generated catch block

e.printStackTrace()

}

return null

}

public void inputAll(ArrayList<Member>allmembers){

System.out.println("开始向mysql中写入")

String sql2="insert into test.mycopy2 values (?,?,?,?,?,?,?,?,?,?,?,?,?,?)"

try {

ps=con.prepareStatement(sql2)

System.out.println("-------------------------等待写入数据条数: "+allmembers.size())

for(int i=0i<allmembers.size()i++){

ps.setString(1, allmembers.get(i).getPmcode())

ps.setString(2, allmembers.get(i).getNames())

//System.out.println(allmembers.get(i).getNames())

ps.setString(3, allmembers.get(i).getSex())

ps.setString(4, allmembers.get(i).getTelephone())

ps.setString(5, allmembers.get(i).getAddress1())

ps.setString(6, allmembers.get(i).getPmdate())

ps.setString(7, allmembers.get(i).getExpiry())

ps.setString(8, allmembers.get(i).getLevels())

ps.setString(9, allmembers.get(i).getDbno())

ps.setString(10, allmembers.get(i).getHispoints())

ps.setString(11, allmembers.get(i).getBnpoints())

ps.setString(12, allmembers.get(i).getKypoints())

ps.setString(13, allmembers.get(i).getWxno())

ps.setString(14, allmembers.get(i).getRemark())

//插入命令列表

//ps.addBatch()

ps.executeUpdate()

}

//ps.executeBatch()

con.commit()

ps.close()

con.close()

this.flag=false

System.out.println(Thread.currentThread().getName()+"--->OK")

} catch (SQLException e) {

// TODO Auto-generated catch block

System.out.println("向mysql中更新数据时发生异常!")

e.printStackTrace()

}

}

@Override

public void run() {

// TODO Auto-generated method stub

while(true&&flag){

this.inputAll(getAll())

}

}

以mysql来说,可能出现脏读、不可重复读以及幻读,mysql默认设置是可重复读,即一次事务中不会读取到不同的数据。

可以做如下 *** 作:

1)打开两个客户端,均设置为RR;

2)在一个事务中,查询某个 *** 作查到某份数据;比如是某个字段version=1存在数据;

3)在另一个事务中,删除这份version=1的数据;删除后,在2所属的事务中查询数据是没有变化的,还是存在version=1的数据;

4)当我们在2所属的事务中继续更新数据,那么会发现更新不了,明明我们就看到了这份version=1的数据;

缓存一致性:

缓存一致,与什么一致?是与数据库一致,对外查询每个时刻一致;所以在针对于缓存与数据库之间该先更新哪一个呢?可能有人觉得我先更新数据库,再更新缓存不就行了吗?但是有想过个问题吗?

当用户已经支付成功了,更新到数据库,但是呢?你还在缓存中显示未支付,在用户点击频率很高并且数据库压力过大,来不及同步到缓存时,那你是不是很尴尬,这就是典型的不一致了。此时用户再支付,那你又告诉他已经支付了,那他会把你骂死的

那该怎么来做呢?我们可以这样,先更新缓存再更新数据库,那么存在什么问题呢?

1)缓存更新成功,但是数据库更新失败,而被其它的并发线程访问到

2)缓存淘汰成功,但是数据库更新失败,这也会引发后期数据不一致

首先,你的确定数据的主键是否可以使用序列自增。

如果可以那么你可以在插入数据的时候获取序列里的值,这样数据就不会重复了。

其次,可以创建一个公共方法,进行数据的插入 *** 作,并且方法类型声明为 static synchronized

类型,这样基本上就不会出现数据重复的现象了

最后,要看你是怎么获得待插入源数据了,这个获得数据源的方法也做成static synchronized的公

共方法。


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/sjk/9928169.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-05-03
下一篇 2023-05-03

发表评论

登录后才能评论

评论列表(0条)

保存