优化许多文件的并行处理

优化许多文件的并行处理,第1张

优化许多文件的并行处理

serialOperation将以固定的顺序执行,而不是先处理任何可用的结果。我该如何更改?

这正是CompletionService的工作:它并行处理任务,并在完成任务时将其返回,而与提交顺序无关。

简化(未经测试)的示例:

int NUM_THREADS = Runtime.getRuntime().availableProcessors();ExecutorService executor = Executors.newFixedThreadPool(NUM_THREADS);CompletionService<MyFileData> completionService = new ExecutorCompletionService<MyFileData>(executor);for (File f : files) futures.add(completionService.submit(new MyCallable(f)));for(int i = 0; i < futures.size(); i++) {    Future<MyFileData> next = completionService.take();    sequentialOperation(next.get());}

有成千上万的文件要处理,启动成千上万的磁盘请求可能会导致磁盘损坏。通过使用Executors.newFixedThreadPool(10),我限制了这个数字,但是我正在寻找更好的东西。

我不确定那一个。我想这取决于您有多少个磁盘,但是我会认为磁盘访问部分不应拆分成太多线程(每个磁盘一个线程可能是明智的):如果有多个线程同时访问一个磁盘,它将花费比阅读更多的时间。



欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/5430478.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-12-11
下一篇 2022-12-11

发表评论

登录后才能评论

评论列表(0条)

保存