不经过文字的思考:端到端语音模型砍掉中间层后丢了哪三样东西|洹拓科技

一、那层文本原本同时扛着三件事
一家金融科技企业旗下只关注人工智能研究的团队,发布一款端到端语音模型,形态是研究预览版。它是全双工的语音到语音模型,可以同时进行听与说;训练数据只有人类对话音频,不使用文本语料,不使用任何预训练模型,知识库直接来自对话音频,也不再额外依赖大语言模型做知识检索。团队给出的动机很直白:人类婴儿在识字之前就已经会说话,文字把一句话固定成一串静态字符,而声音每一次响起都千差万别,把文字从训练过程里剔除,可以避免语气、停顿这类信息在转写环节丢失。演示里的行为表现是边听边说、在对方停顿时给出附和、句中出现笑声、能被自然打断并重新接管。
对照面是通用工程常识:市面上绝大多数语音助手是三段式管线,识别段把人说的话转成文字,生成段由文本模型给出回答,合成段把答案朗读出来。这层中间文本看起来只是个转换结果,实际上同时承担着三件事:可观测、可归因、可留证。把文本层从训练与推理里一起拿掉,听感确实更自然,但企业侧一次性失去三段独立可检查的对象;再叠加没有跑分、没有权重、没有论文、没有接口,外部评审只剩录音这一种材料。本篇要算的就是这笔账,以及接入方要临时补出哪些规程。
二、丢掉的第一样:可观测
| 环节 | 三段式里可取的中间产物 | 三段式里可各自测的量 | 端到端之后还剩什么 |
|---|---|---|---|
| 识别段 | 转写文本与其可信信息 | 该段耗时分位、缺字与错字率 | 无对应可读对象 |
| 生成段 | 待朗读的答案文本 | 该段耗时分位、拒答与跑偏 | 无对应可读对象 |
| 合成段 | 韵律与发音参数 | 该段耗时分位、断句与重音 | 无对应可读对象 |
| 整链路 | 三段产物可拼接回放 | 分段告警可定位到段 | 仅有音频进与音频出 |
于是两个结论可以同时成立:“延迟更低了”和“更难定位了”。端到端少了两次序列化边界和两段排队,响应更快是路线本身的收益;但中间态不可读,意味着健康检查从三格变成一格。三段式下,任何一段劣化都能在对应段的分位数上先露头,用例集也能按段回归;端到端之后,识别偏差、答案偏差、韵律偏差全都表现为同一件事:这段录音听起来不对。监控面板上不再有可以单独设阈值的对象,告警只能覆盖整段,覆盖不到原因。
三、丢掉的第二样:可归因
听感问题原本可以三段定位:听错词属识别段,想错答案属生成段,念错韵律属合成段。端到端之后只剩整段判,错误归因方法要重做。可行的替代手段有三种,都得接受各自的信息折损。
第一种是同句多上下文对照。把同一句音频放到不同上下文里分别送进去,比较输出差异。上下文变了而结果同变,问题多半在理解侧;上下文变了结果不变、只在特定句子上出问题,更像发音或声学层面的混淆。这套办法不需要读模型内部,代价是测试量按组合增长。
第二种是按后果分档,而不是按环节分档。既然环节不存在了,缺陷登记就要改成按后果分级:仅影响听感、影响理解、影响决策、影响动作执行与资金安全。分级判据写在交付文档里,评审时只对前两档容忍,后两档一律阻断上线。这是把“定不了位”换成“定得了轻重”。
第三种是把可疑片段人工转写出来,当作外挂的解释层,并且在记录里写明它不是模型内部状态。人读出来的文字只能说明“我们听到了什么”,不能说明“模型内部表达了什么”,两者的证据等级不同。混为一谈会让一份转写稿看起来像日志,这在争议中站不住。
四、丢掉的第三样:可留证
原本挂在转写文本上的四类设施,在只有音频时要逐处改写。
- 日志:留存对象从文本变成音频,要单独定策略与时长上限,并规定谁有权回放;文本日志可以整段进数仓,音频不行
- 检索:只能走外挂转写,转写结果必须标注为后处理产物,并保留原音频指针,否则检索命中的是一条无法回放的二手记录
- 关键词风控:口径要重算,原来命中是文本匹配,现在要先过一道转写,转写本身的漏检要计入风控漏检率,指标定义一改历史数据就不可比
- 事后复核:从读一条变成听一段,抽检成本按音频时长而不是按条目计,抽样方案要重做
这里还有一个容易被忽略的可信度问题:外挂转写通常来自另一家的模型服务,它本身也是不透明的。链路里并没有少一个黑箱,只是把不可观测性往后搬了一层,而且搬进去的是一个你既不控制版本、也无法固定行为的第三方。留证设计里要把它登记成依赖项,而不是当成工具。
五、只剩录音时,评审规程要自己写
外部可得的材料是:演示录音与厂商说明,没有公布跑分成绩、没有公布参数量、没有开放权重、没有论文、没有公开接口,需要申请加入等候名单,首批只邀请安全研究人员参与测试。这种情况下评审只能靠听,而听是可以做成规程的。
- 评分人数与独立性:多名评审分别独立打分,人数在评审开始前定死并写进记录,禁止先对齐再打分,避免第一人的结论锚定其他人
- 是否盲评:素材不标注来源与版本,厂商自剪的演示片段与实测片段分开编号
- 素材覆盖:把目标能力做成必测场景,包括被打断后重新接管、对方停顿时给出附和、句中出现笑声,缺这几项就等于没测到这条路线声称的能力
- 条件维度:至少覆盖安静近讲、持续背景噪声、远场三种,演示素材通常只有第一种
- 通过线归属:最低通过线由接入方定,不由厂商或销售定,写在评审开始前
必须讲清证据强度:听音评分是主观一致性检验,强度低于可重复的基准测试,只能作为准入前的一关,不能替代后续任何一段可自动化的回归,更不能写进对外材料当作质量结论。
六、算力口径、形态判定与全双工新增约束
训练用了几块卡、模型有多大、能不能在手机或笔记本上跑,是三件互不决定的事。据公开报道,这次训练用的是一台整机柜方案,另一款同类开源语音模型据公开报道用了上千块另一型号的图形处理器,本地运行下限据公开报道是一台带高配芯片的笔记本且快于实时。这些转述只说明厂商给出的边界,不构成我们的判断依据,尤其不能拿训练规模去推模型体积或推理成本。选型时四项要分开问:训练规模、推理硬件下限、是否做了量化、达标是否只在演示条件下成立。所以“一台机柜就练出来了”这句话不能当作成本优势写进方案,机柜数不换算成单路推理开销,方案里要的是后者。
形态判定也要提前做完。研究预览版加等候名单加首批只给安全研究人员,意味着拿不到可自建件,也拿不到稳定接口。这类形态下企业该做三件事:不进生产链路,只做离线对比评测,把接口可用性与版本承诺写进合同条款而不是写进内部排期。第三件事最容易被省掉,而它恰好是唯一能在对方延期时保住项目预算的动作。
全双工还带来一个新的风险面。可以边听边说、可以随时插话,与“只在被问时回答”是两种运行形态,后者有明确的请求边界,前者没有,约束要按场景重写。
| 场景 | 新增约束 | 判定要落到什么上 |
|---|---|---|
| 通话 | 何时允许插话,误插话的判定阈值与撤回方式 | 一段可回放的判定窗口与阈值配置版本 |
| 会议 | 多人同时在场时的说话权归属与让渡规则 | 参会者音轨与模型音轨分轨记录 |
| 车载 | 被打断后是否延续上一轮意图,环境噪声下的判定 | 意图延续标记与误判后的纠正路径 |
三类场景共同的底线是:插话权必须是可以被业务侧显式关闭和收窄的能力,而不是模型自带的行为。洹拓在给客户做这类接入评估时,会把这一条放在准入清单第一项,因为它是唯一无法靠事后过滤补救的风险。