通义听悟云端转录 (tingwu-asr)
通过逆向封装通义听悟网页端内部 REST API,实现云端音频/视频文件转录,输出与 local-asr 兼容的 Markdown 格式。
功能
- 上传本地音频/视频文件到阿里云 OSS
- 云端转录,支持说话人分离(单人/2人/多人)
- 支持中文、英文、日文、粤语、中英文混合
- 输出 local-asr 兼容的 Markdown,可直接用
summary.py注入 AI 总结
依赖
- Python 3.8+
requests(必须) — HTTP 请求oss2(必须) — 阿里云 OSS SDK(STS 直传)playwright(登录时) — 内置登录脚本login_pw.py使用(pip3 install playwright && playwright install chromium)
安装:
pip3 install -r skills/tingwu-asr/config/requirements.txt
首次使用:登录(首选:内置 Playwright 脚本)
方式一(推荐):skill 内置 login_pw.py,一条命令完成"开浏览器 → 自动填凭证 → 等
登录 → cookie 落盘":
python3 skills/tingwu-asr/scripts/login_pw.py
- 凭证从
config/.env读取(从config/.env.example复制填写) - 浏览器以可见窗口打开;若出现滑块/验证码,人工在窗口内完成即可,脚本自动轮询等待
- 脚本通过
context.cookies()取 cookie(含 HttpOnly 的login_aliyunid_ticket), 直接写入config/cookies.json,cookie 值不经过 stdout/对话记录 - 完成后可用
check_auth.py验证登录态
方式二(备用):Agent 用 MCP Playwright 浏览器工具手工流程:
- 用 MCP Playwright 打开
https://tingwu.aliyun.com/home - 如果跳转到登录页,用账号密码或扫码登录
- 登录成功后,将提取的 cookie 保存到文件(注意
document.cookie拿不到 HttpOnly cookie,仅作兜底):python3 skills/tingwu-asr/scripts/login.py --save-cookies '{"cna":"xxx",...}'
账号密码可预配置在 config/.env 文件中(从 config/.env.example 复制)。
每日签到(领取免费额度)
每天登录听悟网页可领取 2 小时免费转录额度。Agent 签到流程:
- 运行内置登录脚本(会打开
https://tingwu.aliyun.com/home触发每日额度并保存 Cookie):python3 skills/tingwu-asr/scripts/login_pw.py - 运行检查脚本确认状态:
python3 skills/tingwu-asr/scripts/daily_checkin.py
可在 OpenClaw 中配置定时任务,让 Agent 每天自动执行此流程。
Agent 工作流
当用户要求转录音频/视频文件时,执行以下步骤:
1. 检查登录状态
python3 skills/tingwu-asr/scripts/check_auth.py
如果返回"无效",先运行 login.py。
2. 执行转录
# 直接给链接(自动 yt-dlp 下载,默认多人分离):小宇宙/YouTube/B站等
python3 skills/tingwu-asr/scripts/transcribe.py "https://www.xiaoyuzhoufm.com/episode/xxx"
# 单文件转录(默认多人分离)
python3 skills/tingwu-asr/scripts/transcribe.py /path/to/audio.mp3 --lang cn
# 多文件并行转录(自动保存到文件所在目录 + archive 目录)
python3 skills/tingwu-asr/scripts/transcribe.py /path/to/audio1.mp3 /path/to/audio2.mp3 /path/to/video.mp4
# 批量转录目录下所有文件(并行)
python3 skills/tingwu-asr/scripts/transcribe.py /path/to/media_folder/ --batch
# 指定并行数(默认3)
python3 skills/tingwu-asr/scripts/transcribe.py /path/to/audio1.mp3 /path/to/audio2.mp3 --parallel 5
参数说明:
paths音频/视频文件路径或链接(http(s) 开头自动用 yt-dlp 下载到临时目录;支持小宇宙/YouTube/B站等;支持多个混用)--lang cn语言: cn(中文,默认) / en(英文) / ja(日文) / cant(粤语) / cn_en(中英混合)--speakers说话人分离: 2=区分发言人(默认,实测唯一有效值,分 2 人) / 0=不区分 / 1=单人。注:3 与 4 实测均无效(不分离),原"4=多人"为误注--batch批量转录目录下所有文件--parallel N并行转录的最大文件数 (默认: 3)--force强制重新上传,即使该文件已有转录结果(默认会跳过已转录的文件)-o output.md指定输出路径(单文件模式)--no-archive不保存归档--no-lab不获取智能分析(关键词/议程/重点等)--ppt下载 PPT 幻灯片图片并嵌入 Markdown(仅视频有效)
关于「给链接转写」与说话人分离(重要设计取舍):传入链接时,skill 走「yt-dlp 下载 → 本地上传」路径,以保证说话人分离生效。听悟网页端的「播客链接转写」(底层 net_source 网络源通道)虽能省本地带宽,但实测其「区分发言人」选项不生效(提交时 roleSplitNum 被强制为 0,不做分离)。此外经实测,听悟 roleSplitNum 仅 2 为有效分离值(分 2 人),0/1/3/4 均不分离(原 skill 注释"4=多人"为误注,已更正)。故 skill 默认 --speakers 2 走本地上传通道,换取可靠的 2 人分离,代价是下载+上传的带宽。如只需纯文字稿不在乎分离,可自行调用听悟网页端播客链接转写。
3. 输出说明
转录结果会同时保存到两个位置:
- 源文件所在目录:例如
/path/to/audio.mp3→/path/to/audio.md - archive 归档目录:
archive/YYYYMMDD_HHMMSS_audio/audio.md
这样做的好处是:
- 源文件目录方便直接访问
- archive 目录便于集中管理和备份
PPT 幻灯片: 视频文件会自动提取 PPT 幻灯片,图片保存在 {文件名}_slides/ 子目录中(每个文件独立目录,避免同目录下多视频冲突)。
3. 生成 AI 总结(复用 local-asr)
转录完成后,复用 local-asr 的 summary 模块:
python3 skills/local-asr/scripts/summary.py inject transcript.md summary.json
python3 skills/local-asr/scripts/summary.py verify transcript.md
文件结构
skills/tingwu-asr/
SKILL.md ← 本文件
scripts/
tingwu.py ← 核心 API 客户端
transcribe.py ← CLI 入口
format_output.py ← 听悟 JSON → Markdown 转换
login.py ← Cookie 保存工具
daily_checkin.py ← 额度检查 + 记录
check_auth.py ← 认证检查
config/
.env ← 账号密码凭证(gitignore,不提交)
.env.example ← 账号密码模板
cookies.json ← 登录 Cookie(gitignore,不提交)
cookie.example.json ← Cookie 文件模板
quota_history.jsonl ← 额度变更记录(gitignore,不提交)
requirements.txt ← Python 依赖
references/ ← API 文档和决策记录
archive/ ← 转录结果归档
异步转录模式(推荐用于长视频)
对于 1 小时以上的长视频,转录可能需要 20-30 分钟。使用异步模式上传后立即返回,后台自动轮询。
1. 异步提交
python3 skills/tingwu-asr/scripts/transcribe.py /path/to/video.mp4 --async --speakers 2
上传完成后立即返回任务 ID,任务信息保存到 config/pending_tasks.json。
2. 后台监控(按 Agent 运行时选择)
监控进程的生命周期是关键差异点:Agent 的后台进程普遍随会话结束被回收(Hermes 会话切换界面、Claude Code 会话退出同理)。监控一死,Agent 就收不到"转录完成"信号,长任务静默搁浅。因此分两档:
档位 A — 会话无关监控(推荐,长任务首选):让监控完全脱离 Agent 会话,进度写日志文件,Agent 回来只读状态、不持有进程。
# Claude Code / 任意运行时:nohup 脱离会话,日志落盘
nohup python3 skills/tingwu-asr/scripts/poll_tasks.py --monitor --timeout 7200 --interval 120 \
>> /tmp/tingwu_monitor.log 2>&1 &
# 单任务高频盯梢(含 macOS 原生通知):watch_active.sh 本身就是会话无关的
nohup bash skills/tingwu-asr/scripts/watch_active.sh <task_id> >> /tmp/tingwu_watch.log 2>&1 &
Agent 恢复会话后按此顺序接管(不重新提交任务):
cat skills/tingwu-asr/config/pending_tasks.json— 非空即有未完任务,拿 trans_idpython3 skills/tingwu-asr/scripts/poll_tasks.py(一次性)— 已完成则当场触发 finish_task 收尾(下载 PPT/生成 Markdown/归档),未完成则打印状态与预计剩余时间- finish_task 收尾可能耗时数分钟(185 张幻灯片下载+压缩实测约 3 分钟):用后台运行且不要设短超时,或改用 watch_active.sh 接管
- 需要持续监控再启动档位 A/B,重跑安全幂等(flock 防并发重复归档)
档位 B — Agent 托管后台进程:适合 Agent 会话确定存续的短等待。
- Claude Code:Bash 工具
run_in_background: true+timeout: 600000(必须 10 分钟,默认 2 分钟会掐断 finish_task) - Hermes:
terminal(background=true)提交 + process_manage 轮询等待;会话切界面/退出后进程会被回收,此时回到恢复流程第 1 步
无论哪档,重跑 poll_tasks.py 都是安全的:任务状态以云端为准,pending_tasks.json 有 flock 互斥,不会重复转录、不会重复归档。进程丢失≠任务丢失。
3. 手动查询
# 检查所有待处理任务的状态(已完成会当场收尾并打印输出路径)
python3 skills/tingwu-asr/scripts/poll_tasks.py
# 阻塞式监控
python3 skills/tingwu-asr/scripts/poll_tasks.py --monitor
注意事项
- Cookie 会过期,过期后需重新运行
login.py - 网页端免费额度有限,大文件或高频使用可能触发风控
- 支持格式: mp3/wav/m4a/wma/aac/ogg/amr/flac/aiff/mp4/wmv/mov/mkv/webm/avi 等
- 音频最大 500M,视频最大 6G,单文件最长 6 小时
- 代理环境下 OSS 上传已自动直连(v0.4.6):shell 常驻
HTTP_PROXY/HTTPS_PROXY(如 Clash 系)时, oss2 分片上传曾走代理被掐断长连接(实测 771MB 视频在 50% 处ProxyError: Cannot connect to proxy)。现上传 session 默认trust_env=False忽略环境代理直连国内 OSS 节点;确需经代理出海时设TINGWU_OSS_USE_PROXY=1恢复。 注意:yt-dlp 下载链接(小宇宙/YouTube/B站)不受此改动影响,海外源仍按环境代理走 - macOS Apple Silicon 上
cryptography<=41的_rust.abi3.so在 OpenSSL CPU 探测 (_armv8_sve_probe)时会死循环挂起,症状是任何 import oss2 的脚本无输出卡死。 已在tingwu.py入口自动设置OPENSSL_armcap=0绕过;若仍遇到,运行前手动export OPENSSL_armcap=0,或升级 cryptography>=42。