用Python寫網絡爬蟲

用Python寫網絡爬蟲 pdf epub mobi txt 电子书 下载 2026

☆☆☆☆☆
[澳]理查德 勞森
圖書標籤:
想要找书就要到 求知書站
立刻按 ctrl+D收藏本页
你会得到大惊喜!!
目录
第1章 网络爬虫简介 1
1.1 网络爬虫何时有用 1
1.2 网络爬虫是否合法 2
1.3 背景调研 3
1.3.1 检查robots.txt 3
1.3.2 检查网站地图 4
1.3.3 估算网站大小 5
1.3.4 识别网站所用技术 7
1.3.5 寻找网站所有者 7
1.4 编写第一个网络爬虫 8
1.4.1 下载网页 9
1.4.2 网站地图爬虫 12
1.4.3 ID遍历爬虫 13
1.4.4 链接爬虫 15
1.5 本章小结 22
第2章 数据抓取 23
2.1 分析网页 23
2.2 三种网页抓取方法 26
2.2.1 正则表达式 26
2.2.2 Beautiful Soup 28
2.2.3 Lxml 30
2.2.4 性能对比 32
2.2.5 结论 35
2.2.6 为链接爬虫添加抓取回调 35
2.3 本章小结 38
第3章 下载缓存 39
3.1 为链接爬虫添加缓存支持 39
3.2 磁盘缓存 42
3.2.1 实现 44
3.2.2 缓存测试 46
3.2.3 节省磁盘空间 46
3.2.4 清理过期数据 47
3.2.5 缺点 48
3.3 数据库缓存 49
3.3.1 NoSQL是什么 50
3.3.2 安装MongoDB 50
3.3.3 MongoDB概述 50
3.3.4 MongoDB缓存实现 52
3.3.5 压缩 54
3.3.6 缓存测试 54
3.4 本章小结 55
第4章 并发下载 57
4.1 100万个网页 57
4.2 串行爬虫 60
4.3 多线程爬虫 60
4.3.1 线程和进程如何工作 61
4.3.2 实现 61
4.3.3 多进程爬虫 63
4.4 性能 67
4.5 本章小结 68
第5章 动态内容 69
5.1 动态网页示例 69
5.2 对动态网页进行逆向工程 72
5.3 渲染动态网页 77
5.3.1 PyQt还是PySide 78
5.3.2 执行JavaScript 78
5.3.3 使用WebKit与网站交互 80
5.3.4 Selenium 85
5.4 本章小结 88
第6章 表单交互 89
6.1 登录表单 90
6.2 支持内容更新的登录脚本扩展 97
6.3 使用Mechanize模块实现自动化表单处理 100
6.4 本章小结 102
第7章 验证码处理 103
7.1 注册账号 103
7.2 光学字符识别 106
7.3 处理复杂验证码 111
7.3.1 使用验证码处理服务 112
7.3.2 9kw入门 112
7.3.3 与注册功能集成 119
7.4 本章小结 120
第8章 Scrapy 121
8.1 安装 121
8.2 启动项目 122
8.2.1 定义模型 123
8.2.2 创建爬虫 124
8.2.3 使用shell命令抓取 128
8.2.4 检查结果 129
8.2.5 中断与恢复爬虫 132
8.3 使用Portia编写可视化爬虫 133
8.3.1 安装 133
8.3.2 标注 136
8.3.3 优化爬虫 138
8.3.4 检查结果 140
8.4 使用Scrapely实现自动化抓取 141
8.5 本章小结 142
第9章 总结 143
9.1 Google搜索引擎 143
9.2 Facebook 148
9.2.1 网站 148
9.2.2 API 150
9.3 Gap 151
9.4 宝马 153
9.5 本章小结 157
· · · · · · (收起)

具体描述

作為一種便捷地收集網上信息並從中抽取齣可用信息的方式,網絡爬蟲技術變得越來越有用。使用Python這樣的簡單編程語言,你可以使用少量編程技能就可以爬取復雜的網站。

《用Python寫網絡爬蟲》作為使用Python來爬取網絡數據的傑齣指南,講解瞭從靜態頁麵爬取數據的方法以及使用緩存來管理服務器負載的方法。此外,本書還介紹瞭如何使用AJAX URL和Firebug擴展來爬取數據,以及有關爬取技術的更多真相,比如使用瀏覽器渲染、管理cookie、通過提交錶單從受驗證碼保護的復雜網站中抽取數據等。本書使用Scrapy創建瞭一個高級網絡爬蟲,並對一些真實的網站進行瞭爬取。

《用Python寫網絡爬蟲》介紹瞭如下內容:

通過跟蹤鏈接來爬取網站;

使用lxml從頁麵中抽取數據;

構建綫程爬蟲來並行爬取頁麵;

將下載的內容進行緩存,以降低帶寬消耗;

解析依賴於JavaScript的網站;

與錶單和會話進行交互;

解決受保護頁麵的驗證碼問題;

對AJAX調用進行逆嚮工程;

使用Scrapy創建高級爬蟲。

本書讀者對象

本書是為想要構建可靠的數據爬取解決方案的開發人員寫作的,本書假定讀者具有一定的Python編程經驗。當然,具備其他編程語言開發經驗的讀者也可以閱讀本書,並理解書中涉及的概念和原理。

用户评价

评分☆☆☆☆☆

##还是需要多实践,多练习,多拓展。

评分☆☆☆☆☆

##很通顺,但不够具体,这也许跟篇幅以及书本身的结构有关系。总之,看完了能明白爬虫、一整套的抓取数据流程是什么样的。有意思的是讲验证码识别部分,如果“难一点我们应该怎么样?”使用付费的人工识别服务, 猝不及防!

评分☆☆☆☆☆

##没有太多内涵的东西,很薄的一本书,内容很浅显

评分☆☆☆☆☆

##很通顺,但不够具体,这也许跟篇幅以及书本身的结构有关系。总之,看完了能明白爬虫、一整套的抓取数据流程是什么样的。有意思的是讲验证码识别部分,如果“难一点我们应该怎么样?”使用付费的人工识别服务, 猝不及防!

评分☆☆☆☆☆

##没有太多内涵的东西,很薄的一本书,内容很浅显

评分☆☆☆☆☆

##最近又重新浏览了一遍,里面还是有些干货的,虽然基于Python2版本。

评分☆☆☆☆☆

##思路还行。

评分☆☆☆☆☆

##http://blog.csdn.net/column/details/13041.html这个专栏就是对应这本书写的笔记,可以参考。

评分☆☆☆☆☆

##故意占篇幅

本站所有內容均為互聯網搜索引擎提供的公開搜索信息,本站不存儲任何數據與內容,任何內容與數據均與本站無關,如有需要請聯繫相關搜索引擎包括但不限於百度,google,bing,sogou 等

© 2026 tushu.tinynews.org All Rights Reserved. 求知書站 版权所有