代码之家 › 专栏 › 技术社区 › Aminah Nuraini

是否可以在同一个Scrapy spider中为不同的请求设置不同的设置?

crawlera scrapy-spider scrapy web-scraping python

Aminah Nuraini · 技术社区 · 6 年前

我只想使用Crawlera来处理Scrapy spider中的一些请求。所以我想设置 CRAWLERA_ENABLED

1 回复 | 直到 6 年前

Thiago Curvelo 6 年前

你可以用 dont_proxy meta 对于那些你不想使用Crawlera的请求。例如。

# Supposing you have crawlera enabled in `settings.py`
yield scrapy.Request(
    url, 
    meta={"dont_proxy": True}, 
    callback=self.parse
)

推荐文章

July · 如何定义数字间隔,然后四舍五入

1 年前

Community wiki · 对象名称前的单下划线和双下划线的含义是什么?

1 年前

Brian Johnson · 为什么在Python中列出字典列表会引发TypeError?[已关闭]

1 年前

user026 · 如何根据特定窗口的平均值(行数)创建新列?

1 年前

Ashok Shrestha · 需要追踪特定的颜色线并获取坐标

1 年前

Nicote Ool · 在FastApi和Vue3中获得422

1 年前

NeoExceptCodeBad · 如果我有很多垂直线,我如何找到它们的边缘?

1 年前

Abdulaziz · 如何对集合内的列表进行排序[重复]

1 年前

user2743931 · 带有src目录的Python setup.py

1 年前

asmgx · 为什么合并数据帧不能按照python中的预期方式工作

1 年前