按照领导的要求,要改造一台仪器,添加点功能,将测量数据上传到服务器。仪器测量节拍大概是20s,数据量目前不大,每次测量大概不到2M左右,且都是浮点数据和整形数据。
起初想用TCP长连接实现的,但考虑到现场环境。典型的制造业车间,电磁环境复杂,网络信号不稳,所以不考虑TCP长连接实现。短连接也不在考虑范围内,以后仪器数量多了之后频繁的建立连接开销也很大,服务器有可能受不了(阿里云的乞丐版)。所以选择用restful提交,http的通信可以多线程调度。
仪器控制程序是C#开发的,所以客户端最好是c#。服务端我想用springboot,很方便。
考虑到新增的上传功能不能影响之前的测量节拍,所以要多线程实现。可惜我又很懒,不想考虑线程协调问题,最后选择消息队列实现。
考虑到节省流量(服务器是按流量收费的),文件要压缩,C#下要实现文件压缩功能。
从测量文件中读取数据,将参数存入数据库,测量原始数据打包放在文件服务器上。
二、整体架构和技术方案最后的技术方案就是C#做客户端,java构建服务端restful API进行上传
整体架构如下图:
使用的技术如下:
C#的Restful客户端:RestSharp
java的Restful服务端:springboot
C#端消息队列:NetMQ
C#端zip *** 作组件:DotNetZip
java端zip *** 作组件:Apache Commons Compress
三、服务端服务端采用springboot的restful,POST方式,非常简单。
传输文件采用multipartfile方式,因为客户端的ResrSharp只能采用这种方式传递文件
@RestController@RequestMapPing(value = "upload")public class fileRestController { Logger logger = LogManager.getLogger(fileRestController.class); @RequestMapPing(value = "file", method = RequestMethod.POST) public @ResponseBody RestResult getZipfile(@RequestParam("file") multipartfile file) throws IOException, URISyntaxException { RestResult result = new RestResult(); if (!file.getname().isEmpty()) { inputStream stream = file.getinputStream();// String directory = fileRestController.class.getProtectionDomain().getCodeSource().getLocation().toURI().getPath(); String directory = "/usr/local/haliang/files/"; try { directory = URLDecoder.decode(directory, "utf-8"); } catch (java.io.UnsupportedEnCodingException e) { return null; } fileOutputStream fs = new fileOutputStream(directory + file.getoriginalfilename()); logger.info("文件所在的目录: " + directory + "/files/" + file.getoriginalfilename()); byte[] buffer = new byte[1024 * 1024]; int bytesum = 0; int byteread = 0; while ((byteread = stream.read(buffer)) != -1) { bytesum += byteread; fs.write(buffer, 0, byteread); fs.flush(); } fs.close(); stream.close(); logger.info("成功接收文件: " + directory + file.getoriginalfilename()); } return result; }}四、客户端
客户端架构如下图:
NetMQ 是 ZeroMQ的C#移植版本。
1.1:zeromq是什么NetMQ (ZeroMQ to .Net),ZMQ号称史上最快中间件。
它对socket通信进行了封装,使得我们不需要写socket函数调用就能完成复杂的网络通信。
它跟Socket的区别是:普通的socket是端到端的(1:1的关系),而ZMQ却是可以N:M的关系,人们对BSD套接字的了解较多的是点对点的连接,点对点连接需要显式地建立连接、销毁连接、选择协议(TCP/UDP)和处理错误等,而ZMQ屏蔽了这些细节,让你的网络编程更为简单。
它是一个消息处理队列库,可在多个线程、内核和主机盒之间d性伸缩。和一般意义上的消息队列产品不同的是,它没有消息队列服务器,而更像是一个网络通信库。从网络通信的角度看,它处于会话层之上,应用层之下,属于传输层。
zeromq将消息通信分为4种模型,分别是一对一结对模型(Exclusive-Pair)、请求回应模型(Request-Reply)、发布订阅模型(Publish-Subscribe)、推拉模型(Push-Pull)。这4种模型总结出了通用的网络通信模型,在实际中可以根据应用需要,组合其中的2种或多种模型来形成自己的解决方案。
1.2.1 一对一结对模型 Exclusive-Pair最简单的1:1消息通信模型,用来支持传统的 TCP socket模型,主要用于进程内部线程间通信。可以认为是一个TCP Connection,但是TCP Server只能接受一个连接。采用了lock free实现,速度很快。数据可以双向流动,这点不同于后面的请求响应模型。(不推荐使用,没有例子)
1.2.2 请求回应模型 Request-Reply由请求端发起请求,然后等待回应端应答。一个请求必须对应一个回应,从请求端的角度来看是发-收配对,从回应端的角度是收-发对。跟一对一结对模型的区别在于请求端可以是1~N个。
请求端和回应端都可以是1:N的模型。通常把1认为是server,N认为是ClIEnt。ZeroMQ可以很好的支持路由功能(实现路由功能的组件叫作Device),把1:N扩展为N:M(只需要加入若干路由节点)。从这个模型看,更底层的端点地址是对上层隐藏的。每个请求都隐含有回应地址,而应用则不关心它。通常把该模型主要用于远程调用及任务分配等。
(NetMQ请求响应C#调用案例)
发布端单向分发数据,且不关心是否把全部信息发送给订阅端。如果发布端开始发布信息时,订阅端尚未连接上来,则这些信息会被直接丢弃。订阅端未连接导致信息丢失的问题,可以通过与请求回应模型组合来解决。订阅端只负责接收,而不能反馈,且在订阅端消费速度慢于发布端的情况下,会在订阅端堆积数据。该模型主要用于数据分发。天气预报、微博明星粉丝可以应用这种经典模型。 (NetMQ发布订阅模式C#调用案例)
1.2.4 推拉模型 Push-PullServer端作为Push端,而ClIEnt端作为Pull端,如果有多个ClIEnt端同时连接到Server端,则Server端会在内部做一个负载均衡,采用平均分配的算法,将所有消息均衡发布到ClIEnt端上。与发布订阅模型相比,推拉模型在没有消费者的情况下,发布的消息不会被消耗掉;在消费者能力不够的情况下,能够提供多消费者并行消费解决方案。该模型主要用于多任务并行。
(NetMQ推拉模式C#调用案例)
TCP:ZeroMQ基于消息,消息模式,而非字节流。
XMPP:ZeroMQ更简单、快速、更底层。Jabber可建在ZeroMQ之上。
AMQP:完成相同的工作,ZeroMQ要快100倍,而且不需要代理(规范更简洁——少278页)
IPC:ZeroMQ可以跨多个主机盒,而非单台机器。
CORBA:ZeroMQ不会将复杂到恐怖的消息格式强加于你。
RPC:ZeroMQ完全是异步的,你可以随时增加/删除参与者。
RFC 1149:ZeroMQ比它快多了!
29west LBM:ZeroMQ是自由软件!
IBM低延迟:ZeroMQ是自由软件!
Tibco:仍然是自由软件!
2.代码实现2.1 Publisher(发布者)一般都是发布者先启动,绑定监听端口。封装了一个发送函数,主要是发送原先软件生成测量文件的路径。
public class Publisher { public int Port { get; set; } private PublisherSocket socket; /// <summary> /// 构造函数 /// </summary> /// <param name="port">绑定的端口</param> public Publisher(int port) { Port = port; } /// <summary> /// 启动发布端 /// </summary> public voID Start() { NetMQContext context = NetMQContext.Create(); this.socket = context.CreatePublisherSocket(); this.socket.Bind("tcp://127.0.0.1:" + Port); } /// <summary> /// 发送数据 /// </summary> /// <param name="result"></param> public voID Send(string result) { socket.SendFrame(result); } }2.2 Subscriber(订阅者)
订阅者启动时候连接端口。防止线程阻塞,订阅者是新开一个线程运行的。
public class Subscribe { private delegate voID GetDataHandler(string message); private event GetDataHandler onGetData; public int Port { get; set; } public string TempDirectory { get; set; } public bool isRunning { get; set; } public string domain { get; set; } public Subscribe(int port, string domain) { Port = port; this.domain = domain; onGetData += ProcessData; } private SubscriberSocket socket; public voID Start() { this.isRunning = true; NetMQContext context = NetMQContext.Create(); socket = context.CreateSubscriberSocket(); socket.Connect("tcp://127.0.0.1:" + Port); socket.Subscribe(""); Thread t = new Thread(new ThreadStart(StartSub)); t.Start(); } private voID StartSub() { while (isRunning) { Thread.Sleep(10000); string result = socket.ReceiveFrameString(EnCoding.UTF8); onGetData(result); } } private voID ProcessData(string path) { Console.Writeline("收到文件:" + path); string compressedfile = Compress.Compressfile(TempDirectory, path); new RestPost(domain).Post(compressedfile); }3 客户端压缩
压缩使用DotNetZip组件,非常简单好用。
public class Compress { public static string Compressfile(string temp,string txtPath) { string txtfilename = System.IO.Path.GetfilenameWithoutExtension(txtPath); string compressedfilename = temp+"/"+txtfilename + ".zip"; Zipfile file=new Zipfile(); file.Addfile(txtPath,""); file.Save(compressedfilename); return compressedfilename; } }4 客户端上传
使用RestSharp组件,也是非常简单。异步回调,不影响性能。
public class RestPost { public string Domain { get; set; } public RestPost(string domain) { Domain = domain; } public voID Post(string path) { RestRequest request = new RestRequest(Method.POST); request.Addfile("file", path); RestClIEnt clIEnt = new RestClIEnt {BaseUrl = new Uri("http://" + Domain + "/upload/file")}; clIEnt.ExecuteAsync(request, (response) => { if (response.StatusCode == httpStatusCode.OK) { Console.Writeline("上传成功...\n" + response.Content); } else { Console.Writeline($"出错啦:{response.Content}"); } } ); } }五、总结
写代码之前一定要搞清楚需求,设计好架构
注意消息队列启动时候的线程问题
异步执行
相关文章:
企业数据备份技术
相关视频:
数据结构探险—队列篇 总结
以上是内存溢出为你收集整理的仪器设备改造技术,实现测量数据上传到服务器的功能全部内容,希望文章能够帮你解决仪器设备改造技术,实现测量数据上传到服务器的功能所遇到的程序开发问题。
如果觉得内存溢出网站内容还不错,欢迎将内存溢出网站推荐给程序员好友。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)