Python3网络爬虫——爬虫基本原理

目录

1、网络爬虫概述

2、爬虫基本流程

3、爬虫基础知识


1、网络爬虫概述

爬虫就是请求网站并提取数据的自动化程序

网络爬虫(Web Spider),又被称为网页蜘蛛,是一种按照一定的规则,自动地抓取网站信息的程序或者脚本。

网络蜘蛛是通过网页的链接地址来寻找网页,从网站某一个页面开始,读取网页的内容,找到在网页中的其它链接地址,然后通过这些链接地址寻找下一个网页,这样一直循环下去,直到把这个网站所有的网页都抓取完为止。

2、爬虫基本流程

例:

  • ①先由urllib的request打开Url得到网页html文档
  • ②浏览器打开网页源代码分析元素节点
  • ③通过Beautiful Soup或则正则表达式提取想要的数据
  • ④存储数据到本地磁盘或数据库(抓取,分析,存储)

3、爬虫基础知识

基础库

  • scrapy

  • requests

  • beautifulsoup

网页分类

  • 静态网页

  • 动态网页

  • webservice(restapi)

爬虫作用

  • 搜索引擎(百度、Google、垂直领域搜索引擎)

  • 推荐引擎(今日头条)

  • 机器学习的数据样本

  • 数据分析(如金融领域数据分析)、舆情分析

正则表达式

Mysql和Navicat的安装和使用

网站的树结构及其深度优先遍历和广度优先遍历

爬虫去重策略

 

 

 

 

 

 

 

 

 

已标记关键词 清除标记
©️2020 CSDN 皮肤主题: 技术黑板 设计师:CSDN官方博客 返回首页