数据采集技术:Python网络爬虫项目化教程(第2版)

项目1 爬取学生信息 1．1 爬虫程序开发环境 1．1．1 爬虫程序简介 1．1．2 搭建Python开发环境 1．2 FlaskWeb网站 1．2．1 Flask简介 1．2．2 调用Urllib库访问Web网站 1．3 使用GET方法访问网站 1．3．1 客户端使用GET方法发送数据 1．3．2 服务器获取GET方法发送的数据 1．4 使用POST方法向网站发送数据 1．4．1 客户端使用POST方法发送数据 1．4．2 服务器获取POST方法的数据 1．4．3 GET与POST方法的混合使用 1．5 搭建图书网站 1．5．1 准备网站素材 1．5．2 创建网页模板 1．5．3 创建网站服务器程序 1．5．4 运行网站服务器程序 1．6 正则表达式与查找匹配字符串 1．6．1 正则表达式 1．6．2 查找匹配字符串 1．7 实践项目——爬取学生信息 1．7．1 项目简介 1．7．2 服务器程序 1．7．3 客户端程序 练习一 项目2 爬取天气预报数据 2．1 HTML文档结构与文档树 2．1．1 HTML文档结构 2．1．2 HTML文档树 2．2 BeautifuISoup装载HTML文档 2．2．1 BeautifuISoup的安装 2．2．2 BeautifuISoup装载HTML文档 2．3 查找文档元素 2．3．1 查找HTML元素 2．3．2 获取HTML元素属性值 2．3．3 获取元素包含的文本值 2．3．4 高级查找 2．4 遍历文档元素 2．4．1 获取元素节点的父节点元素 2．4．2 获取元素节点的所有子节点元素 2．4．3 获取元素节点的所有子孙节点元素 2．4．4 获取元素节点的兄弟节点 2．5 使用CSS语法查找元素 2．5．1 使用CSS语法 2．5．2 属性的语法规则 2．5．3 使用soup．select（）查找子孙节点 2．5．4 使用soup．select（）查找直接子节点 2．5．5 使用soup．select（）查找兄弟节点 2．6 爬取图书网站数据 2．6．1 分析网站结构 2．6．2 获取图书数据 2．6．3 编写爬虫程序 2．7 实践项目——爬取天气预报数据 2．7．1 项目简介 2．7．2 HTML代码分析 2．7．3 爬取天气预报数据 2．7．4 爬取与存储天气预报数据 练习二 项目3 爬取旅游网站数据 3．1 网站树的爬取路径 3．1．1 Web服务器网站 3．1．2 使用递归程序爬取数据 3．1．3 使用深度优先策略爬取数据 3．1．4 广度优先策略爬取数据 3．2 网站图的爬取路径 3．2．1 复杂的Web网站 3．2．2 改进客户端深度优先策略程序 3．2．3 改进客户端广度优先策略程序 3．3 Python实现多线程 3．3．1 Python的前后台线程 3．3．2 线程的等待 3．3．3 多线程与资源 3．4 爬取网站复杂数据 3．4．1 Web服务器网站 3．4．2 爬取网站的复杂数据 3．4．3 爬取程序的改进 3．5 爬取网站的图像文件 3．5．1 项目简介 3．5．2 单线程爬取图像的程序 3．5．3 多线程爬取图像的程序 3．6 爬取图书网站数据 3．6．1 分析网站结构 3．6．2 换页递归爬取 3．6．3 图书数据存储 3．6．4 编写爬虫程序 3．6．5 执行爬虫程序 3．7 实践项目——爬取旅游网站数据 3．7．1 实践项目简介 3．7．2 网站网页分析 3．7．3 网站数据爬取 3．7．4 网站网页翻页 3．7．5 网站数据存储 3．7．6 编写爬虫程序 3．7．7 执行爬虫程序 练习三 …… 项目4 爬取航空网站数据 项目5 爬取商城网站数据 结语 参考文献