代码之家 › 专栏 › 技术社区 › Bo Qiang

dask作业因内存使用而被终止?

dask performance python

Bo Qiang · 技术社区 · 8 年前

嗨,我有一个python脚本,它使用dask库来处理非常大的数据帧,比物理内存大。我注意到,如果内存使用率保持在计算机的100%一段时间,作业会在运行过程中被终止。

这是预期的吗?我原以为数据会泄漏到磁盘上,而且还有大量的磁盘空间。

有没有办法限制其总内存使用量?谢谢

编辑:

我还尝试了:

达斯克。设置选项(可用内存=12e9)

它不起作用。它似乎没有限制内存的使用。同样,当内存使用率达到100%时,作业将被终止。

2 回复 | 直到 8 年前

mdurant 8 年前

生产线

 ddf = ddf.set_index("sort_col").compute()

实际上是将整个数据帧拉入内存并转换为熊猫。您要删除 .compute() ,并在调用之前首先应用所需的任何逻辑(筛选、分组/聚合等) compute 产生足够小的结果。

需要记住的重要一点是,结果输出必须能够放入内存,并且每个工作者正在处理的每个块(加上开销)也需要能够放入内存。

rodcoelho 8 年前

请尝试使用以下工具分块查看数据:

chunksize = 10 ** 6 for chunk in pd.read_csv(filename, chunksize=chunksize): process(chunk)

推荐文章

Google User · Django管理员在`list_display中未显示`creation_date`字段`

11 月前

user29747013 · 如何创建一个新的数据框架,其中包含原始数据框架中列的聚合列?

11 月前

ÎÎÎ½Î· ÎÎ®Î¹Î½Î¿Ï · Python lxml.html语法错误:使用lxml find时XPATH的谓词无效

11 月前

user29715306 · from_users=和chats=电视节目中的差异

11 月前

Redshoe · 当执行numpy.genfromtxt()时,python是否会读取文件的所有行?

11 月前

RASEL MAHMUD · 为什么以及如何在is_even()函数内的IF条件中递归X变量在满足0后递增?[副本]

11 月前

prayner · 更新嵌套字典包含列表中的项

11 月前

Bringo Jr · 我可以在O(n)中解决这个问题吗?

11 月前

Dave · 如何在for循环中修改列表值

12 月前

Shukurullox Komiljonov · 从记录中获得相互和解。使用SQL

12 月前