跳到主要内容

定向爬虫:Scrapy与Redis入门 (附视频、课件、代码打包)

大小:75.7MB       时间:2024-12-07

Redis 是一个高性能的key-value数据库。它将数据保存在内存中,因此可以实现非常快的存取速度。

Scrapy 是一个通用的爬虫框架,但是不支持分布式,Scrapy-redis是为了更方便地实现Scrapy分布式爬取,而提供了一些以redis为基础的组件。

本套课程中我们学习了Redis在定向爬虫中的应用,你应当掌握以下知识:

  • 安装和使用Redis
  • Scrapy调用Redis
  • 将爬取结果保存到MongoDB中