1
-1
是的,定义执行图和执行每个任务都是有成本的。至少,这涉及到切换线程和检查每个任务的完成情况。在实践中,还有其他与决定下一步要做的任务和将结果拼接在一起相关的成本。因为您的python函数将在<100ns时,dask的开销是显著的。
这是对的。对于本例,创建和存储任务以供以后执行的成本高于运行任务的成本。
运行任务的开销取决于调度程序,但线程调度程序的开销为100秒,分布式调度程序的则接近1毫秒。 那么,dask什么时候有用呢?
还要注意的是,由于GIL的原因,您编写的代码在单个过程中不能很好地并行。在实践中,加速这些东西的真正方法是使用
|
July · 如何定义数字间隔,然后四舍五入 1 年前 |
user026 · 如何根据特定窗口的平均值(行数)创建新列? 1 年前 |
Ashok Shrestha · 需要追踪特定的颜色线并获取坐标 1 年前 |
Nicote Ool · 在FastApi和Vue3中获得422 1 年前 |
Abdulaziz · 如何对集合内的列表进行排序[重复] 1 年前 |
asmgx · 为什么合并数据帧不能按照python中的预期方式工作 1 年前 |