
tqdm-multiprocess:利用队列支持多工作进程及每个进程内的多个tqdm...
5星
- 浏览量: 0
- 大小:None
- 文件类型:ZIP
简介:
tqdm-multiprocess 是一个Python库,它通过队列机制实现多工作进程,并允许在每个进程中使用多个tqdm进行进度显示,提高大型任务的并行处理效率。
使用队列,tqdm-multiprocess 支持多个工作进程,并且每个进程中可以有多个 tqdm 进度条,主进程能够清晰地显示这些进度条的状态。此外,子进程的日志记录会被重定向到主进程中的根日志器。
当前版本不支持 tqdm(iterator) 的形式,你需要使用总数来初始化你的工作器的 tqdms 并手动更新它们。由于默认 Python 多进程队列存在性能限制,频繁地更新全局和工作进程中进度条可能会导致主进程被淹没。未来会尝试实现一个无锁环形缓冲区以提高效率。
安装此库的方式是通过 pip 安装 tqdm-multiprocess。
使用方法包括创建一个 TqdmMultiProcessPool 对象来建立具有所需数量的 Python 多处理池。在内部,它采用带有事件循环的 async_apply 来监控进度条和日志队列,从而允许工作进程向主进程发送更新信息。
全部评论 (0)
还没有任何评论哟~


