public void division(){
//获取要导入的总的数据条数
String sql3="SELECT count(*) FROM [CMD].[dbo].[mycopy1]"
try {
pss=cons.prepareStatement(sql3)
rss=pss.executeQuery()
while(rss.next()){
System.out.println("总记录条数:"+rss.getInt(1))
sum=rss.getInt(1)
}
//每30000条记录作为一个分割点
if(sum>=30000){
n=sum/30000
residue=sum%30000
}else{
residue=sum
}
System.out.println(n+" "+residue)
} catch (SQLException e) {
// TODO Auto-generated catch block
e.printStackTrace()
}
}
线程类
public MyThread(int start,int end) {
this.end=end
this.start=start
System.out.println("处理掉余数")
try {
System.out.println("--------"+Thread.currentThread().getName()+"------------")
Class.forName(SQLSERVERDRIVER)
System.out.println("加载sqlserver驱动...")
cons = DriverManager.getConnection(CONTENTS,UNS,UPS)
stas = cons.createStatement()
System.out.println("连接SQLServer数据库成功!!")
System.out.println("加载mysql驱动.....")
Class.forName(MYSQLDRIVER)
con = DriverManager.getConnection(CONTENT,UN,UP)
sta = con.createStatement()
// 关闭事务自动提交
con.setAutoCommit(false)
System.out.println("连接mysql数据库成功!!")
} catch (Exception e) {
e.printStackTrace()
}
// TODO Auto-generated constructor stub
}
public ArrayList<Member>getAll(){
Member member
String sql1="select * from (select row_number() over (order by pmcode) as rowNum,*" +
" from [CMD].[dbo].[mycopy1]) as t where rowNum between "+start+" and "+end
try {
System.out.println("正在获取数据...")
allmembers=new ArrayList()
rss=stas.executeQuery(sql1)
while(rss.next()){
member=new Member()
member.setAddress1(rss.getString("address1"))
member.setBnpoints(rss.getString("bnpoints"))
member.setDbno(rss.getString("dbno"))
member.setExpiry(rss.getString("expiry"))
member.setHispoints(rss.getString("hispoints"))
member.setKypoints(rss.getString("kypoints"))
member.setLevels(rss.getString("levels"))
member.setNames(rss.getString("names"))
member.setPmcode(rss.getString("pmcode"))
member.setRemark(rss.getString("remark"))
member.setSex(rss.getString("sex"))
member.setTelephone(rss.getString("telephone"))
member.setWxno(rss.getString("wxno"))
member.setPmdate(rss.getString("pmdate"))
allmembers.add(member)
// System.out.println(member.getNames())
}
System.out.println("成功获取sqlserver数据库数据!")
return allmembers
} catch (SQLException e) {
// TODO Auto-generated catch block
System.out.println("获取sqlserver数据库数据发送异常!")
e.printStackTrace()
}
try {
rss.close()
stas.close()
} catch (SQLException e) {
// TODO Auto-generated catch block
e.printStackTrace()
}
return null
}
public void inputAll(ArrayList<Member>allmembers){
System.out.println("开始向mysql中写入")
String sql2="insert into test.mycopy2 values (?,?,?,?,?,?,?,?,?,?,?,?,?,?)"
try {
ps=con.prepareStatement(sql2)
System.out.println("-------------------------等待写入数据条数: "+allmembers.size())
for(int i=0i<allmembers.size()i++){
ps.setString(1, allmembers.get(i).getPmcode())
ps.setString(2, allmembers.get(i).getNames())
//System.out.println(allmembers.get(i).getNames())
ps.setString(3, allmembers.get(i).getSex())
ps.setString(4, allmembers.get(i).getTelephone())
ps.setString(5, allmembers.get(i).getAddress1())
ps.setString(6, allmembers.get(i).getPmdate())
ps.setString(7, allmembers.get(i).getExpiry())
ps.setString(8, allmembers.get(i).getLevels())
ps.setString(9, allmembers.get(i).getDbno())
ps.setString(10, allmembers.get(i).getHispoints())
ps.setString(11, allmembers.get(i).getBnpoints())
ps.setString(12, allmembers.get(i).getKypoints())
ps.setString(13, allmembers.get(i).getWxno())
ps.setString(14, allmembers.get(i).getRemark())
//插入命令列表
//ps.addBatch()
ps.executeUpdate()
}
//ps.executeBatch()
con.commit()
ps.close()
con.close()
this.flag=false
System.out.println(Thread.currentThread().getName()+"--->OK")
} catch (SQLException e) {
// TODO Auto-generated catch block
System.out.println("向mysql中更新数据时发生异常!")
e.printStackTrace()
}
}
@Override
public void run() {
// TODO Auto-generated method stub
while(true&&flag){
this.inputAll(getAll())
}
}
以mysql来说,可能出现脏读、不可重复读以及幻读,mysql默认设置是可重复读,即一次事务中不会读取到不同的数据。可以做如下 *** 作:
1)打开两个客户端,均设置为RR;
2)在一个事务中,查询某个 *** 作查到某份数据;比如是某个字段version=1存在数据;
3)在另一个事务中,删除这份version=1的数据;删除后,在2所属的事务中查询数据是没有变化的,还是存在version=1的数据;
4)当我们在2所属的事务中继续更新数据,那么会发现更新不了,明明我们就看到了这份version=1的数据;
缓存一致性:
缓存一致,与什么一致?是与数据库一致,对外查询每个时刻一致;所以在针对于缓存与数据库之间该先更新哪一个呢?可能有人觉得我先更新数据库,再更新缓存不就行了吗?但是有想过个问题吗?
当用户已经支付成功了,更新到数据库,但是呢?你还在缓存中显示未支付,在用户点击频率很高并且数据库压力过大,来不及同步到缓存时,那你是不是很尴尬,这就是典型的不一致了。此时用户再支付,那你又告诉他已经支付了,那他会把你骂死的
那该怎么来做呢?我们可以这样,先更新缓存再更新数据库,那么存在什么问题呢?
1)缓存更新成功,但是数据库更新失败,而被其它的并发线程访问到
2)缓存淘汰成功,但是数据库更新失败,这也会引发后期数据不一致
首先,你的确定数据的主键是否可以使用序列自增。如果可以那么你可以在插入数据的时候获取序列里的值,这样数据就不会重复了。
其次,可以创建一个公共方法,进行数据的插入 *** 作,并且方法类型声明为 static synchronized
类型,这样基本上就不会出现数据重复的现象了
最后,要看你是怎么获得待插入源数据了,这个获得数据源的方法也做成static synchronized的公
共方法。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)