Python网络数据采集

Python网络数据采集

贺函芬
4786131
特别说明:
此音频仅作为更好地阅读此书的辅助工具,请大家购买正版书籍。
所有音频全部免费供大家试听、转发和使用。

目录
第一部分 创建爬虫
第1章 初见网络爬虫
1.1网络连接
1.2BeautifulSoup简介
1.2.1安装BeautifulSoup
1.2.2运行BeautifulSoup
1.2.3可靠的网络连接

第2章 复杂HTML解析
2.1不是一直都要用锤子
2.2再端一碗BeautifulSoup
2.2.1BeautifulSoup的find()和findAll()
2.2.2其他BeautifulSoup对象
2.2.3导航树
2.3正则表达式
2.4正则表达式和BeautifulSoup
2.5获取属性
2.6Lambda表达式
2.7超越BeautifulSoup

第3章 开始采集
3.1遍历单个域名
3.2采集整个网站
3.3通过互联网采集
3.4用Scrapy采集

第4章 使用API
4.1API概述
4.2API通用规则
4.2.1方法
4.2.2验证
4.3服务器响应
4.4Echo Nest
4.5Twitter API
4.5.1开始
4.5.2几个示例
4.6 Google API
4.6.1开始
4.6.2几个示例
4.7解析JSON数据
4.8回到主题
4.9再说一点API

第5章 存储数据
5.1媒体文件
5.2把数据存储到CSV
5.3MySQL
5.4Email

第6章 读取文档
6.1文档编码
6.2纯文本
6.3 CSV
6.4 PDF
6.5微软Word和.docx

第7章 数据清洗
7.1编写代码清洗数据
7.2数据存储后再清洗

第8章 自然语言处理
8.1概括数据
8.2马尔可夫模型
8.3自然语言工具包
8.3.1安装与设置
8.3.2用NLTK做统计分析
8.3.3用NLTK做词性分析
8.4其他资源

第9章 穿越网页表单与登录窗口进行采集
9.1Python Requests库
9.2提交一个基本表单
9.3单选按钮、复选框和其他输入
9.4提交文件和图像
9.5处理登录和cookie
9.6其他表单问题

第10章 采集JavaScript
10.1JavaScript简介
10.2Ajax和动态HTML
10.3处理重定向

第11章 图像识别与文字处理
11.1OCR库概述
11.1.1 Pillow
11.1.2 Tesseract
11.2处理格式规范的文字
11.3读取验证码与训练Tesseract
11.4获取验证码提交答案

第12章 避开采集陷阱
12.1道德规范
12.2让网络机器人看起来像人类用户
12.2.1修改请求头
12.2.2处理cookie
12.2.3时间就是一切
12.3常见表单安全措施
12.3.1隐含输入字段值
12.3.2避免蜜罐
12.4问题检查表

第13章 用爬虫测试网站
13.1测试简介
13.2 Python单元测试
13.3 Selenium单元测试
13.4 Python单元测试与Selenium单元测试的选择

第14章 远程采集
14.1为什么要用远程服务器
14.2Tor代理服务器
14.3远程主机
14.3.1从网站主机运行
14.3.2从云主机运行
14.4其他资源
14.5勇往直前

贺函芬|音频制作者
2000年毕业于宁波大学计算机系教育专业。
20年编程经历。
用户评论

    还没有评论,快来发表第一个评论!