包邮数据采集技术--pgthon网络爬虫项目化教程

项目1 爬取学生信息 1.1 爬虫程序开发环境 1.1.1 爬虫程序简介 1.1.2 Python开发环境搭建 1.2 Flask Web网站 1.2.1 Flask简介 1.2.2 Urlib 程序包访问Web网站 1.3 GET方法访问网站 1.3.1 客户端GET方式发送数据 1.3.2 服务器获取GET发送的数据 1.4 POST方法向网站发送数据 1.4.1 客户端POST发送数据 1.4.2 服务器获取POST的数据 1.4.3 GET与POST的混合使用 1.5 Web下载文件 1.5.1 服务器程序 1.5.2 客户端程序 1.6 Web上传文件 1.6.1 上传二进制数据 1.6.2 服务器程序 1.6.3 客户端程序 1.7 Web学生管理程序 1.7.1 定义通讯协议 1.7.2 服务器程序 1.7.3 客户端程序 1.8 正则表达式 1.8.1 正则表达式规则 1.8.2 查找匹配字符串 1.9 实践项目——爬取学生信息 1.9.1 项目简介 1.9.2 服务器程序 1.9.3 客户端程序 练习一 项目2 爬取天气预报数据 2.1 HTML文档结构与文档树 2.1.1 HTML文档结构 2.1.2 HTML文档树 2.2 BeautfulSoup装载HTML文档 2.2.1 BeautifulSoup的安装 2.2.2 BeautifulSoup 装载HTML文档 2.3 BeautifulSoup查找文档元素 2.3.1 查找HTML元素 2.3.2 获取元素的属性值 2.3.3 获取元素包含的文本值 2.3.4 高级查找 2.4 BeautifulSoup 遍历文档元素 2.4.1 获取元素结点的父结点 2.4.2 获取元素结点的直接子元素结点 2.4.3 获取元素结点的所有子孙元素结点 2.4.4 获取元素结点的兄弟结点 2.5 BeautifulSoup 使用CSS 语法查找元素 2.5.1 使用CSS语法 2.5.3 Select 查找子孙结点 2.5.4 Select 查找直接子结点 2.5.5 Select查找兄弟结点 2.6 实践项目——爬取天气预报数据 2.6.1 项目简介 2.6.2 HTML代码分析 2.6.3 爬取天气预报数据 2.6.4 爬取与存储天气预报数据 练习二 项目3 爬取网站图像文件 3.1 网站树的爬取路径 3.1.1 Web服务器网站 3.1.2 递归程序爬取数据 3.1.3 深度优先爬取数据 3.1.4 广度优先爬取数据 3.2 网站图的爬取路径 3.2.1 复杂的Web网站 3.2.2 改进深度优先客户端程序 3.2.3 改进广度优先客户端程序 3.3 Python实现多线程 3.3.1 Python的前后台线程 3.3.2 线程的等待 3.4 爬取网站复杂数据 3.4.1 Web服务器网站 3.4.2 爬取网站的复杂数据 3.4.3 爬取程序的改进 3.5 实践项目——爬取网站的图像文件 3.5.1 项目简介 3.5.2 单线程爬取图像的程序 3.5.3 多线程爬取图像的程序 练习三 项目4 爬取网站图书数据 4.1 Scrapy框架爬虫简介 4.1.1 安装Scrapy 框架 4.1.2 建立Scrapy项目 4.1.3 入口函数与入口地址 4.1.4 Python的yield语句 4.2 Scrapy中查找HTML元素 4.2.1 Scrapy的Xpath简介 4.2.2 Xpath 查找HTML元素 4.3 Scrapy 爬取与存储数据 4.3.2 编写数据项目类 4.3.3 编写爬虫程序My 4.3.4 编写数据管道处理类 4.3.5 设置Scrapy的配置文件 4.4 Scrapy 爬取网站数据 4.4.1 建立Web网站 4.4.2 编写Scrapy 爬虫程序 4.5 实践项目——爬取当当网站图书数据 4.5.1 网站图书数据分析 4.5.2 网站图书数据提取 4.5.3 网站图书数据爬取 练习四 结语 参考文献