最近我在用梯度下降算法绘制神经网络的数据时,遇到了一些算法性能的问题。梯度下降算法的代码如下(伪代码):
defgradient_descent(): # the gradient descent code plotlywrite(X, Y)
一般来说,当网络请求 plotly 绘图时会阻塞等待返回,于是也会影响到其他的梯度下降函数的执行速度。
一种解决办法是每调用一次 plotlywrite 函数就开启一个新的线程,但是这种方法感觉不是很好。 我不想用一个像 cerely(一种分布式任务队列)一样大而全的任务队列框架,因为框架对于我的这点需求来说太重了,并且我的绘图也并不需要 redis 来持久化数据。
那用什么办法解决呢?我在 python 中写了一个很小的任务队列,它可以在一个单独的线程中调用 plotlywrite函数。下面是程序代码。
fromthreadingimportThreadimportQueueimporttime classTaskQueue(QueueQueue):
首先我们继承 QueueQueue 类。从 QueueQueue 类可以继承 get 和 put 方法,以及队列的行为。
def__init__(self, num_workers=1): QueueQueue__init__(self) selfnum_workers=num_workers selfstart_workers()
初始化的时候,我们可以不用考虑工作线程的数量。
defadd_task(self, task,args,kwargs): args=argsor() kwargs=kwargsor{} selfput((task, args, kwargs))
我们把 task, args, kwargs 以元组的形式存储在队列中。args 可以传递数量不等的参数,kwargs 可以传递命名参数。
defstart_workers(self): foriinrange(selfnum_workers): t=Thread(target=selfworker) tdaemon=True tstart()
我们为每个 worker 创建一个线程,然后在后台删除。
下面是 worker 函数的代码:
defworker(self): whileTrue: tupl=selfget() item, args, kwargs=selfget() item(args,kwargs) selftask_done()
worker 函数获取队列顶端的任务,并根据输入参数运行,除此之外,没有其他的功能。下面是队列的代码:
我们可以通过下面的代码测试:
defblokkah(args,kwargs): timesleep(5) print“Blokkah mofo!” q=TaskQueue(num_workers=5) foriteminrange(1): qadd_task(blokkah) qjoin()# wait for all the tasks to finish print“Alldone!”
Blokkah 是我们要做的任务名称。队列已经缓存在内存中,并且没有执行很多任务。下面的步骤是把主队列当做单独的进程来运行,这样主程序退出以及执行数据库持久化时,队列任务不会停止运行。但是这个例子很好地展示了如何从一个很简单的小任务写成像工作队列这样复杂的程序。
defgradient_descent(): # the gradient descent code queueadd_task(plotlywrite, x=X, y=Y)
修改之后,我的梯度下降算法工作效率似乎更高了。如果你很感兴趣的话,可以参考下面的代码。fromthreadingimportThreadimportQueueimporttime classTaskQueue(QueueQueue): def__init__(self, num_workers=1):QueueQueue__init__(self)selfnum_workers=num_workersselfstart_workers() defadd_task(self, task,args,kwargs):args=argsor()kwargs=kwargsor{}selfput((task, args, kwargs)) defstart_workers(self):foriinrange(selfnum_workers):t=Thread(target=selfworker)tdaemon=Truetstart() defworker(self):whileTrue:tupl=selfget()item, args, kwargs=selfget()item(args,kwargs)selftask_done() deftests():defblokkah(args,kwargs):timesleep(5)print"Blokkah mofo!" q=TaskQueue(num_workers=5) foriteminrange(10):qadd_task(blokkah) qjoin()# block until all tasks are doneprint"All done!" if__name__=="__main__":tests()
以上就是关于数据库有哪些类型,EXCEL数据库属于哪种类型全部的内容,包括:数据库有哪些类型,EXCEL数据库属于哪种类型、普通的关系型数据库用的是什么类型的数据结构、Python实现简单多线程任务队列等相关内容解答,如果想了解更多相关内容,可以关注我们,你们的支持是我们更新的动力!
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)