📚 文档中心 ⚙
  • 千川/星图视频无水印下载今天 18:45
  • 即创直链去水印 技术文档今天 14:03
  • 某思视频处理07-18 12:56
  • 某思视频处理技术(KT版)07-17 14:37
  • 新片场 / 场选素材 视频评价平台07-15 16:17
  • 抖音私信助手 技术文档06-26 15:00
  • BaiduSpider 核心技术实现与功能亮点详解06-17 17:39
  • 微信助手 — 技术实现与功能亮点06-17 17:36
  • 拼多多(Pinduoduo)接口与技术详解06-15 18:22
  • 豆包技术文档06-15 18:22
  • 聚好麦 AI 客服系统 — 平台对接技术文档06-15 18:21
  • 聚好麦 AI 客服系统 — 平台对接完整技术文档 v3.006-15 16:37
  • 微信视频号视频解密算法详解06-10 15:16
  • 记SQL注入漏洞八道防线,层层设防06-08 17:15
  • 腾讯云TokenHub大模型服务平台介绍:ai模型、TokenPlan、Agent孵化及使用指南06-08 10:59
  • 小团队多代理编程工作流:Worktree、任务分工与合并门禁05-26 11:58
▸📁Claude1
  • 安装Claude Code06-08 10:57
▾📁doubao4
  • 豆包关键词拦截 & 爬取07-08 17:06
  • 无印豆包逆向工程完整文档07-07 16:05
  • dola国际版逆向工程完整文档07-07 16:03
  • Doubao Seed Code 路线指南:开源权重、API 模型还是 Coding Plan?05-23 11:40
▸📁google1
  • Chrome抓包工具完全掌握(3):高手秘籍!用XHR断点拦截破解前端加密06-08 14:20
▸📁instagram4
  • Instagram 性别识别昨天 19:23
  • Instagram 私信实时监控与发送昨天 16:28
  • Instagram 地区博主采集工具昨天 11:46
  • Instagram 网页端行为来获取公开数据昨天 11:45
▸📁wechat1
  • 微信视频号视频解密 —— 从算法到工程实现07-09 11:11
▸📁抖音2
  • JS逆向实战:某音\_\_ac\_signature参数逆向与脚本开发06-08 14:34
  • JS逆向实战:某音a\_bogus参数逆向,从抓包到Python刷播放量脚本全记录06-08 14:32
首页 / 豆包关键词拦截 & 爬取

目录

  • 豆包关键词拦截 & 爬取
  • 1. 架构概览
  • 2. CDP 协议(Chrome DevTools Protocol)
  • 2.1 什么是 CDP
  • 2.2 启动带 CDP 的 Chrome
  • Windows 数据目录
  • headless 模式(后台无界面)
  • Windows 不弹控制台窗口
  • 2.3 检测 CDP 是否就绪
  • 2.4 CDP 三大域的使用
  • 域1:Network(低层网络拦截)
  • 创建独立 CDP session(tab 间隔离)
  • 开启网络监听
  • 注册监听
  • ... 触发页面加载 ...
  • 用完关闭
  • 域2:Runtime(控制台消息监听)
  • 保持监听...
  • Ctrl+C 后:
  • 域3:Fetch(请求拦截,备用方案)
  • 3. Playwright 浏览器控制
  • 3.1 CDP 连接(复用模式)
  • 3.2 页面查找与复用
  • 3.3 登录流程
  • 第一步:发验证码
  • 第二步:填验证码
  • 等跳转
  • 3.4 登录状态判断
  • 4. 跨平台 Chrome 管理
  • 4.1 平台检测
  • 4.2 Chrome 路径发现
  • 4.3 进程管理
  • 杀旧进程
  • 4.4 跨平台路径
  • 5. JavaScript 注入劫持
  • 5.1 核心思路
  • 5.2 完整 JS 模板
  • 5.3 关键技术点详解
  • 5.3.1 原生 value setter
  • 5.3.2 事件捕获 vs 冒泡
  • 5.3.3 stopImmediatePropagation
  • 5.3.4 TreeWalker
  • 5.3.5 异步多次扫描
  • 5.4 Python 端注入
  • 注入
  • 验证
  • 6. 关键词匹配算法
  • 6.1 长词优先
  • 6.2 外部配置支持
  • 7. 异步并发爬取
  • 7.1 为什么需要异步
  • 7.2 并发架构
  • 同步入口
  • 7.3 并发控制
  • 并发数限制
  • 7.4 进度计数
  • 8. API 响应解析
  • 8.1 JSON 路径适配
  • 8.2 消息去重
  • 8.3 文本提取
  • 8.4 消息排序
  • 按 create_time 升序排列
  • user_type=1 → 用户, 其他 → 豆包
  • 9. 完整流程
  • 9.1 monitor 模式(关键词拦截)
  • 9.2 search 模式(自动化搜索)
  • 9.3 scrape 模式(爬取对话)
  • 附录
  • A. 关键 Python 依赖
  • B. Chrome 启动参数速查
  • C. CDP 会话生命周期
  • D. React 输入框操作要点