标签
内容简介
本书以Python为实现语言,围绕“拿到数据—分析数据—展示数据”这一完整链条展开,按数据抓取、数据分析、数据可视化三个部分组织内容,各部分相对独立,读者可按需选读。 开篇第1章先用一个完整的小例子带读者完成Python环境安装、pip使用、帮助查阅等基础准备,并快速梳理文件操作、循环、异常、元组、列表、字典、集合、随机数、enumerate等后续必然用到的语言要素。第2章聚焦字符串解析,介绍常用字符串函数、正则表达式、BeautifulSoup与json结构,为从网页文本中提取有用信息打基础。第3章进入单机数据抓取,讲解顺序抓取的基本流程、requests库的用法,以及并发与并行抓取。第4章把视角扩展到分布式,介绍RPC调用与Celery任务系统。第5章专门讲Selenium,覆盖单机抓取、分布式抓取以及Linux无图形界面下的运行方式,用于应对依赖脚本渲染的页面。第6章讨论抓取中的IP封锁问题,说明Tor的安装使用、多线程方案以及与Selenium的结合。第7章汇总Flash、桌面程序、U盘、二三级页面、图片处理、App数据抓取等常见疑难场景。第8章给出一个监控框架的设计说明与实例,第9章简要介绍Hadoop生态圈与Cloudera环境搭建,为海量数据的后续处理做铺垫。 全书侧重把成熟原理和流行框架落到具体问题上,配有可运行的实例代码,读者可边跑边改,把示例改造成符合自己需求的抓取程序。
编辑推荐
市面上的爬虫书大致分两类:一类只讲requests加BeautifulSoup写几个静态页面,另一类一上来就是Scrapy全家桶。这本2016年的书走的是中间路线,它把“抓取”当成一个工程问题来拆:先用第1至2章补齐Python和字符串解析的基本功,再用第3至4章讲清单机与分布式的差别,然后用Selenium和Tor两章专门处理动态页面与IP封锁这两类最让人头疼的实战障碍。 比较有意思的是第7章。Flash、桌面程序、U盘、二三级页面、图片、App数据抓取,这些碎问题在多数教程里不会单独成章,却是实际做项目时真正卡住人的地方;作者把它们集中列出,像一份“踩坑清单”,很适合边做边查。第8章的监控框架和结尾的Hadoop生态圈,则把视野从“抓到一条数据”拉到“持续稳定地抓、抓完怎么存怎么算”。 需要提醒的是,书出版于2016年,示例基于当时的Python 2/早期Python 3、requests、Selenium与Celery版本,Tor、Flash、App抓取等章节的具体操作与环境变化较大,直接照抄代码可能跑不通。把它当作理解抓取技术版图与问题分类的路线图,配合官方文档更新细节,收益最大。
适合谁读
适合
- 已掌握Python基础语法,想系统入门网络数据抓取的开发者
- 需要处理动态渲染页面、IP封锁等实战障碍的爬虫从业者
- 数据分析岗人员,希望自己动手获取外部公开数据的读者
- 高校计算机相关专业学生,用作数据采集课程参考书
不适合
- 完全没有编程经验、需要从零学Python的纯新手
- 想直接学习Scrapy、Playwright等现代框架最新用法的人
- 只关心数据分析建模、不打算自己写抓取程序的读者
阅读建议
- 先跑通第1章的两个小实例,把环境与pip源配好,再进入第2章字符串解析。
- 第3至6章建议边读边敲代码,每章结束后改造示例去抓一个自己感兴趣的真实页面。
- 第7章可当工具书使用,遇到具体问题(动态加载、App数据、图片等)时再回查对应小节。
- 注意代码年代,requests、Selenium、Celery的API已有变化,遇到报错优先查官方文档而非硬抄书中写法。
出版社简介
电子工业出版社
中国 · 成立于 1982 年
电子工业出版社是一家以电子信息及相关领域为出版特色的综合性出版社。从库内三千余种图书来看,其出版方向覆盖编程设计、人工智能、计算机综合、财经、摄影与社科等门类,既关注技术前沿,也兼顾大众阅读。代表图书包括《因子投资:方法与实践》《x86汇编语言:从实模式到保护模式》《RISC-V开放架构设计之道》《人工智能:语音识别理解与实践》《相控阵雷达技术》《雷达目标特性》及《100个Go语言典型错误》等,多围绕技术方法与工程实践展开。作者资源方面,有石川、李忠、王晓波、大卫·帕特森、安德鲁·沃特曼、余子濠等中外作者。受公开资料所限,暂不展开更多出版特色。
目录
- 第1章 Python基础
- 1.1 Python安装
- 1.2 安装pip
- 1.3 如何查看帮助
- 1.4 第一个实例
- 1.5 文件操作
- 1.6 循环
- 1.7 异常
- 1.8 元组
- 1.9 列表
- 1.10 字典
- 1.11 集合
- 1.12 随机数
- 1.13 enumerate的使用
- 1.14 第二个实例
- 第2章 字符串解析
- 2.1 常用函数
- 2.2 正则表达式
- 2.3 BeautifulSoup
- 2.4 json结构
- 第3章 单机数据抓取
- 3.1 单机顺序抓取
- 3.2 requests
- 3.3 并发和并行抓取
- 第4章 分布式数据抓取
- 4.1 RPC的使用
- 4.2 Celery系统
- 第5章 全能的Selenium
- 5.1 Selenium单机抓取
- 5.2 Selenium分布式抓取
- 5.3 Linux无图形界面使用Selenium
- 第6章 神秘的Tor
- 6.1 抓取时IP被封锁的问题
- 6.2 Tor的安装与使用
- 6.3 Tor的多线程使用
- 6.4 Tor与Selenium结合
- 第7章 抓取常见问题
- 7.1 Flash
- 7.2 桌面程序
- 7.3 U盘
常见问题
这本书适合零基础学Python的人吗?
不太适合。虽然第1章有Python基础内容,但篇幅紧凑,只覆盖安装、文件、循环、异常和几种容器,更像为后续章节做的快速铺垫。没有编程经验的读者建议先单独学一门Python入门课,再回来看这本书。
书里的代码现在还能直接运行吗?
书中示例基于2016年前后的Python与第三方库版本,requests、Selenium、Celery的接口和浏览器驱动机制此后都有较大变化,Tor、Flash、Cloudera相关操作的环境也变了。核心思路仍然有效,但细节需要对照官方文档调整。
书名叫“数据抓取技术与实战”,为什么有数据分析和可视化内容?
按出版社的内容简介,本书按数据抓取、数据分析、数据可视化三部分组织,目的是打通从获取数据到分析展示的完整流程,且各部分相对独立。实际章节以抓取技术为主体,后续与大数据处理衔接。
作者是谁?
本书由潘庆和、赵星驰编著,2016年8月由电子工业出版社出版。潘庆和毕业于哈尔滨工业大学计算机科学与技术学院,获工学博士学位,后在哈尔滨商业大学计算机与信息工程学院任教。
和Scrapy类爬虫书相比有什么区别?
本书不围绕某一个爬虫框架展开,而是按问题分类讲技术:字符串解析、单机与分布式抓取、Selenium、Tor、常见疑难场景、监控框架。它更像一份技术地图和踩坑清单,适合用来理解问题全貌,而非系统学习某个框架。
读者评论
查询本书
本站为索引目录:「全网查询」由您发起、在您的浏览器中运行,所列入口均指向第三方站点,请自行判断可用性。