老八资源网-致力于打造全网最强免费精品资源分享站~
广告合作 我要投稿 联系老八
北城分享 辅助.png 流量卡.png 副业网.jpg 项目zy.jpg
北城分享 辅助.png 流量卡.png 副业网.jpg 项目zy.jpg
当前位置:网站首页 > 软件仓库 > Windows > 正文

MediaCrawler-开源小红书抖音微博爬虫工具

作者:老八日期:2024-03-19分类:Windows

MediaCrawler是什么

MediaCrawler是一个在线开源的小红书抖音微博爬虫工具,支持目前能抓取小红书、抖音、快手、B站、微博的视频、图片、评论、点赞、转发等信息。工具原理是利用playwright搭桥,保留登录成功后的上下文浏览器环境,通过执行JS表达式获取一些加密参数 通过使用此方式,免去了复现核心加密JS代码,逆向难度大大降低,使用需要一定的技术知识。

MediaCrawler如何使用

创建并激活 python 虚拟环境

# 进入项目根目录cd MediaCrawler# 创建虚拟环境python -m venv venv# macos & linux 激活虚拟环境source venv/bin/activate# windows 激活虚拟环境venv\Scripts\activate

安装依赖库

pip3 install -r requirements.txt

安装 playwright浏览器驱动

playwright install

运行爬虫程序

# 默认没有开启评论爬取模式,有需要请到配置文件中指定# 从配置文件中读取关键词搜索相关的帖子并爬去帖子信息与评论python main.py --platform xhs --lt qrcode --type search# 从配置文件中读取指定的帖子ID列表获取指定帖子的信息与评论信息python main.py --platform xhs --lt qrcode --type detail# 打开对应APP扫二维码登录
  # 其他平台爬虫使用示例, 执行下面的命令查看python main.py --help

数据保存

  • 支持保存到关系型数据库(Mysql、PgSQL等)

  • 支持保存到csv中(data/目录下)

  • 支持保存到json中(data/目录下)

开源小红书抖音微博爬虫工具

源码备份:国内网盘

GitHub:https://github.com/NanmiCoder/MediaCrawler

本文链接:https://www.lb1581.xyz/post/5646.html 转载需授权!

下载链接失效或者打不开的记得在评论区留言或者直接联系老八喔!

分享到:

亲!有什么想法呢?
  • 流泪

    0

  • 打酱油

    0

  • 开心

    40

  • 鼓掌

    46

  • 恐怖

    0

暂无评论,来添加一个吧。

取消回复欢迎 发表评论:

Copyright© 老八资源网 只分享精品!

本站资源来自互联网收集,仅供用于学习和交流,我们尊重任何软件和教程作者的版权,请遵循相关法律法规,本站一切资源不代表本站立场
侵权删帖/违法举报/商务合作/投稿等事宜联系QQ2780396291 或飞机:Laoba88Bot