推广 热搜: 行业  设备    系统  参数  经纪    教师  机械  中国 

最全Python爬虫入门教程28:爬取微博热搜榜并做动态数据展示(1),2024年最新渣本逆袭大厂面经分享

   日期:2024-11-10     作者:n19v1    caijiyuan   评论:0    移动:http://dgaty.xhstdz.com/mobile/news/897.html
核心提示:(1)Python所有方向的学习路线(新版) 这是我花了几天的时间去把Python所有方向的技术点做的整理

(1)Python所有方向的学习路线(新版

最全Python爬虫入门教程28:爬取微博热搜榜并做动态数据展示(1),2024年最新渣本逆袭大厂面经分享

这是我花了几天的时间去把Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。

最近我才对这些路线做了一下新的更新,知识体系更全面了。

在这里插入图片描述

(2)Python学习视频

包含了Python入门、爬虫、数据分析和web开发的学习视频,总共100多个,虽然没有那么全面,但是对于入门来说是没问题的,学完这些之后,你可以按照我上面的学习路线去网上找其他的知识资源进行进阶。

在这里插入图片描述

(3)100多个练手项目

我们在看视频学习的时候,不能光动眼动脑不动手,比较科学的学习方法是在理解之后运用它们,这时候练手项目就很适合了,只是里面的项目比较多,水平也是参差不齐,大家可以挑自己能做的项目去练练。

在这里插入图片描述

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友,可以戳这里获取

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导,让我们一起学习成长

PS:如有需要 以及 的小伙伴可以加点击下方链接自行获取

python免费学习资料以及群交流解答点击即可加入

基本开发环境💨


  • Python 3.6

  • Pycharm

相关模块的使用💨


import requests

import parsel

import csv

import time

安装Python并添加到环境变量,pip安装需要的相关模块即可。

💥需求数据来源分析


在这里插入图片描述

热搜榜数据, 每次刷新上面的热度数值都是会发生边改变,每隔一段时间可以爬取一下榜单数据,然后可以做一个数据展示。

热搜榜数据内容还是比较好爬的, 因为是静态网页数据内容, 如果大家有认真看过之前的问题,那么这个网站还是很好爬取的。

在这里插入图片描述

💥代码实现


每一分钟爬取一次数据内容

import requests

import parsel

import csv

import time

f = open(‘热榜.csv’, mode=‘a’, encoding=‘utf-8’, newline=‘’)

csv_writer = csv.DictWriter(f, fieldnames=[

‘时间’,

‘排名’,

‘标题’,

‘热度’,

])

csv_writer.writeheader()

while True:

now_time = int(time.time())

timeArray = time.localtime(now_time)

date = time.strftime(“%Y-%m-%d %H:%M:%S”, timeArray)

url = ‘https://s.weibo.com/top/summary?cate=realtimehot’

headers = {

‘user-agent’: ‘Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.90 Safari/537.36’,

}

response = requests.get(url=url, headers=headers)

selector = parsel.Selector(response.text)

trs = selector.css(‘#pl_top_realtimehot tbody tr’)[:11]

for tr in trs:

num = tr.css(‘td.td-01.ranktop::text’).get()

if num:

if num.isdigit():

title = tr.css(‘.td-02 a::text’).get()

hot = tr.css(‘.td-02 span::text’).get()

dit = {

‘时间’: date,

‘排名’: num,

‘标题’: title,

‘热度’: hot,

}

print(dit)

csv_writer.writerow(dit)

time.sleep(60)

💥动态数据展示


tl = Timeline()

for i in range(20):

bar = (

Bar()

.add_xaxis(list(data[‘标题’])[i10:i10+10][::-1])

.add_yaxis(“微博热搜榜”, list(data[‘热度’])[i10:i10+10][::-1])

.reversal_axis()

.set_global_opts(

title_opts=opts.TitleOpts(“{}”.format(list(data[‘时间’])[i*10]),pos_right=‘0%’,pos_bottom=‘15%’),

xaxis_opts=opts.AxisOpts(

splitline_opts=opts.SplitLineOpts(is_show=True)),

yaxis_opts=opts.AxisOpts(splitline_opts=opts.SplitLineOpts(is_show=True),

axislabel_opts=opts.LabelOpts(color=‘#FF7F50’)),)

.set_series_opts(label_opts=opts.LabelOpts(position=“right”,color=‘#9400D3’))

)

grid = (

Grid()

.add(bar, grid_opts=opts.GridOpts(pos_left=“25%”,pos_right=“0%”))

)

tl.add(grid, “{}年”.format(i)) #设置标签

tl.add_schema(

最后

🍅 硬核资料:关注即可领取PPT模板、简历模板、行业经典书籍PDF。 🍅 技术互助:技术群大佬指点迷津,你的问题可能不是问题,求资源在群里喊一声。 🍅 面试题库:由技术群里的小伙伴们共同投稿,热乎的大厂面试真题,持续更新中。 🍅 知识体系:含编程语言、算法、大数据生态圈组件(Mysql、Hive、Spark、Flink)、数据仓库、Python、前端等等。

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友,可以戳这里获取

本文地址:http://dgaty.xhstdz.com/news/897.html    物流园资讯网 http://dgaty.xhstdz.com/ , 查看更多

特别提示:本信息由相关用户自行提供,真实性未证实,仅供参考。请谨慎采用,风险自负。

 
 
更多>同类最新文章
0相关评论

文章列表
相关文章
最新动态
推荐图文
最新文章
点击排行
网站首页  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  鄂ICP备2020018471号