-
数据采集第三次作业
作业一 作业①: 1、要求:指定一个网站,爬取这个网站中的所有的所有图片,例如中国气象网(http://www.weather.com.cn)。分别使用单线程和多线程的方式爬取。 2、输出信息:将下载的Url信息在控制台输出,并将下载的图片存储在images子文件中,并给出截图。 ###(1)代码如 -
爬虫第三次作业
作业①: (1)ImageDownloadThread实验 要求:指定一个网站,爬取这个网站中的所有的所有图片,例如中国气象网(http://www.weather.com.cn)。分别使用单线程和多线程的方式爬取。 输出信息: 将下载的Url信息在控制台输出,并将下载的图片存储在images子文件 -
数据采集与融合第三次个人作业
写在前面 本次作业是关于多线程对于爬虫的运用以及采用 scrapy 框架来编写爬虫,先写个小插曲。之前做软工作业的时候发现 python 的多线程是个鸡肋,因为在加了 GIL 锁的 python,多线程和单线程几乎无差别,甚至多线程可能更慢。但是周三用多线程测试之后颠覆了我的观点,搜完之后就摒弃对 -
第二次作业
#作业①: ##要求:在中国气象网(http://www.weather.com.cn)给定城市集的7日天气预报,并保存在数据库。 ##代码: from bs4 import BeautifulSoup from bs4 import UnicodeDammit import urllib.requ -
第二次作业
一、 (1)在中国气象网(http://www.weather.com.cn)给定城市集的7日天气预报,并保存在数据库。 from bs4 import BeautifulSoup from bs4 import UnicodeDammit import urllib.request import -
第二次作业
#作业1 实验要求:在中国气象网(http://www.weather.com.cn)给定城市集的7日天气预报,并保存在数据库。 实验代码: from bs4 import BeautifulSoup from bs4 import UnicodeDammit import urllib.reque -
数据采集与融合技术第二次作业
#作业① ##1)、爬取天气预报实验 ###1、实验要求 在中国气象网(http://www.weather.com.cn)给定城市集的7日天气预报,并保存在数据库。 ###2、编程思路 出现的问题 本次实验是对书本上的代码进行复现。刚开始在机房时复现没有出现什么问题,然后在下课之后重新运行进行截图 -
数据采集与融合第二次作业
#作业① ##1)爬取七天天气实验 要求:在中国气象网(http://www.weather.com.cn)给定城市集的7日天气预报,并保存在数据库。 代码部分 from bs4 import BeautifulSoup from bs4 import UnicodeDammit import ur -
数据采集第二次作业
#作业1: (1)实验要求:在中国气象网(http://www.weather.com.cn)给定城市集的7日天气预报,并保存在数据库。 (2)实验代码: import requests from bs4 import BeautifulSoup import re def get_page(url -
第二次作业
##作业1 ###1.天气实验代码 #!/usr/bin/env python # _*_ coding:utf-8 _*_ from bs4 import BeautifulSoup from bs4 import UnicodeDammit import urllib.request impor