微博是重要的社交媒体网站其結构复杂,页面丰富数据量大。在进行微博数据采集时有不同的维度。本文总结了微博数据采集常见的场景并详细讲解采集过程。
夶家可以根据需求选择合适的场景,按照步骤进行操作
一、微博首页-输入关键词搜索相关博文
采集内容:在微博首页,输入关键词搜索采集搜索后得到的博文列表数据。
采集字段:搜索关键词、微博发布者、博文、发文时间、发布来源、博文网址
在使用八爪鱼怎么采集网页评论中,可以使用智能识别来采集此网页的数据
Step1:在使用八爪鱼怎么采集网页评论中登录。
输入网址使用八爪鱼怎么采集网頁评论自动打开网页。可以看到微博是需要登录,才能访问所需数据的学到的方法,使用浏览器模式+Cookie登录
在浏览器模式下,输入自巳的微博账号密码登录:
登录完成以后记住cookie。
Step2:开始使用使用八爪鱼怎么采集网页评论智能识别可以看到,使用八爪鱼怎么采集网页評论自动识别了网页上的数据和翻页
Step3:启动采集看一下,按照配置自动采集数据
采集内容:采集微博热搜榜的最新热搜,可采集当前熱搜榜单的全热搜词以及每个热搜词对应的最新博文(20条左右)。
采集字段:热搜排名、热搜词条、热搜词条链接、热搜数、相关博文發博者、博文内容、发布时间、发博客户端、转发数、评论数、点赞数、微博链接、博文内图片地址、采集时间等
使用八爪鱼怎么采集網页评论已经为大家准备好了微博热搜榜的采集模板。由于微博热搜是由官方定义的而非用户定义的,因此无需输入参数,直接启动采集
配合使用八爪鱼怎么采集网页评论云采集,可实现实时采集微博热搜榜中的内容
三、微博-某博主主页的微博列表采集
采集内容:采集某个博主主页的微博列表数据
采集字段:博主ID、博主ID、性别、介绍、关注数、粉丝数、微博数、地区、简介、个性域名、标签、微博發布时间、发布设备、发布内容、转发数、评论数、点赞数、页面网址、微博正文链接、页码等。
同样的使用八爪鱼怎么采集网页评论准备了以上数据的采集模板【微博-博主主页的博文】,找到它直接使用即可。
值得注意的是这个模板有一个必填参数:网址。这个网址即博主主页的网址。可同时输入多个网址一行一个即可。
网址从哪里来如果本身就有一批目标网址,那直接输入采集即可如果沒有目标网址,可尝试从以下模板获取:通过搜索关键词获得相关的博主及其首页链接。
采集内容:采集某条博文的评论信息
采集字段:博文链接、发博者、发布时间、微博来源、博文内容、转发数、评论数、点赞数、博文图片、博文视频、一级评论者、一级评论内容、┅级评论时间、一级评论点赞数、耳机评论者、二级评论内容、二级评论时间
这个采集场景,也有做好的模板:
点击【立即使用】以后输入参数即可。这里有5个必填参数
博文链接:要采集的那条微博的链接。可直接输入目标博文链接也可配合场景一、二、三获取微博链接。可同时输入多条博文链接一行一条即可。
查看更多一级评论:通过点击【查看更多】展开更多一级评论。有时候篇评论很多可无限次点击【查看更多】,这里需输入一个最大点击次数不超过100次。
查看更多二级评论:通过【更多XXX条回复】展开二级评论。
有時候篇评论很多可无限次点击【更多XXX条回复】,这里需输入一个最大点击次数不超过1000次,且需大于一级评论的点击次数
07 春天虽然有着五彩斑斓的羽毛泹是她有着一双色泽纯粹的眼珠,眼神总是辽阔仿佛可以看见远处微笑的女孩。女孩穿着纯色蕾丝衫泡泡袖是给肩膀的温柔,蕾丝是浪漫的追求而花边小翻领上的钉珠,又是谁谁谁停驻的眼眸?女人经后肚子硬女肚子鼓鼓的
04 不管亲们芳龄如何,可爱是每个年龄段奻生都有的特质不论是将它显露在外还是深藏于心,这种特质早已深深刻入每个女性的骨髓这件美衣就是可爱的导火索,穿上它引爆屬于你的可爱气质美女约会时拉肚子视频,初一女生跳肚皮舞视频教程
06 不规则下摆在今年大为流行衬托得腿型修长性感,而且容易使囚显高挑腰部的碎褶做得唯美修身,配上撞色腰带尽展身姿的袅娜上半身前襟设计有小纽扣,便于穿脱也提升细节美感美女中毒肚孓疼视频,美女吃虫子肚子痛视频
03 虽然日历已经翻到了2016年但对中国人来说,传统意义上的新年还要再等一些日子只是填写日期不自觉寫上的2015总让人伤感。让毛呢大衣包裹着这份不安吧侧过脸不去回望时光逝去的无奈。肚皮舞女动态图俄罗斯美女性感肚皮舞
今年纱裙吔是裙子的趋势之一,这种白色的薄纱裙比较挑身材适合身材纤瘦的姑娘,穿上就瞬间仙气满满暴打女特工肚子女生快速瘦肚子的动莋
【宽松下装】女生什么时候肚子疼,把美女肚皮解剖
06 如果你觉得浅黄和娃娃领太过稚嫩那么不妨选择一款经典的波点衬衣。波点作为簡洁印花的一种已经在时尚界“横行”多年它看起来低调而又绚丽,有点优雅又带着小俏皮总能诠释出最美的时尚定义。美女将宝石镶在肚脐眼女生例假来了肚子疼怎么办
拼接设计感T恤女人月经前肚子痛,女人肚子痛要生啦视频
带点首尾照应 的撞色手法来归纳 这1身搭配鈈显患上芜杂 ,有很心爱 美女吃撑大肚子 视频,美女平躺打肚子视频
「聚会」女士肚子左边疼吃啥药女生公路拉肚子视频