博客
关于我
「docker实战篇」python的docker-抖音分析接口数据分析(21)
阅读量:345 次
发布时间:2019-03-04

本文共 911 字,大约阅读时间需要 3 分钟。

安装Xposed和JustTruestMe后,抖音数据采集的配置工作也已完成。以下是具体的操作流程:

1. 简单配置

  • 使用Xposed框架设置代理服务器,确保网络请求通过指定的mitmproxy代理端口。
  • 在Android系统中启用Xposed框架,并将相应的插件加载进系统。

2. 数据采集流程

  • 打开Fildder工具,进入指定的粉丝界面。
  • 初始化请求,观察网络数据流。
  • 使用mitmdump工具捕获后台代理数据,通过Python脚本解析并存储到MongoDB数据库。

3. Python脚本配置

import jsonfrom handle_mongo import save_taskdef response(flow):    if 'aweme/v1/user/follower/list' in flow.request.url:        followers = json.loads(flow.response.text)['followers']        for user in followers:            info = {                'share_id': user['uid'],                'douyin_id': user['short_id'],                'nickname': user['nickname']            }            save_task(info)

4. 工具使用建议

  • 找到项目目录,执行命令:
    pip install mitmproxy
  • 使用mitmdump命令启动截获:
    mitmdump -s handle_mongo.py -p 8080
  • 将代理输出数据处理后,自动化存储到数据库中。

注意事项

  • 确保mitmproxy服务已启动,并检查代理端口是否正确。
  • 数据处理脚本需与MongoDB服务保持通信,确保数据库连接无误。
  • 后台输出信息需实时查看,及时处理可能的错误或异常。

通过以上步骤,可以实现自动化的抖音粉丝数据采集,减少人工干预,提高数据处理效率。

转载地址:http://vope.baihongyu.com/

你可能感兴趣的文章
sum(a.YYSR) over (partition by a.hy_dm) 不需要像group by那样需要分组函数。方便。
查看>>
ORCHARD 是什么?
查看>>
Struts2中使用Session的两种方法
查看>>
order by rand()
查看>>
Orderer节点启动报错解决方案:Not bootstrapping because of 3 existing channels
查看>>
org.apache.axis2.AxisFault: org.apache.axis2.databinding.ADBException: Unexpected subelement profile
查看>>
org.apache.commons.beanutils.BasicDynaBean cannot be cast to ...
查看>>
org.apache.dubbo.common.serialize.SerializationException: com.alibaba.fastjson2.JSONException: not s
查看>>
sqlserver学习笔记(三)—— 为数据库添加新的用户
查看>>
org.apache.ibatis.exceptions.PersistenceException:
查看>>
org.apache.ibatis.exceptions.TooManyResultsException: Expected one result (or null) to be returned
查看>>
org.apache.ibatis.type.TypeException: Could not resolve type alias 'xxxx'异常
查看>>
org.apache.poi.hssf.util.Region
查看>>
org.apache.xmlbeans.XmlOptions.setEntityExpansionLimit(I)Lorg/apache/xmlbeans/XmlOptions;
查看>>
org.apache.zookeeper.KeeperException$ConnectionLossException: KeeperErrorCode = ConnectionLoss for /
查看>>
org.hibernate.HibernateException: Unable to get the default Bean Validation factory
查看>>
org.hibernate.ObjectNotFoundException: No row with the given identifier exists:
查看>>
SQL-CLR 类型映射 (LINQ to SQL)
查看>>
org.springframework.orm.hibernate3.support.OpenSessionInViewFilter
查看>>
org.springframework.orm.hibernate3.support.OpenSessionInViewFilter
查看>>