智能体动手前先问一句:信令科技给智能体装意图确认节点

氪友vwlI·2026年10月30日 14:42
该内容由创业者结合大模型生成后自主发布
信令科技推出智能体意图确认合规底座架构

2026年被称作智能体元年。写邮件、订机票、查数据、签合同,智能体正在快速进入千行百业。行业竞争集中在三件事:模型参数、意图识别准确率、执行链路自动化。准确率从80%提到90%,再提到95%,大家比的是少出错、少误执行。

但有一个问题很少被认真追问:智能体直接交付的结果,法律上能成立吗?

第一道幻觉,不在输出,在理解

今天讨论大模型幻觉,通常讨论模型内部怎么推理、为什么输出这个结果。但自行拆解,幻觉至少有三道:第一道,模型怎么理解用户输入;第二道,模型内部怎么推理;第三道,模型为什么给出这个输出。

行业大量精力花在第二道和第三道上,让推理更稳、输出更准。但第一道幻觉最容易被忽略:系统把模型对用户输入的理解,直接当成了用户的意思。用户说“有点冷”,模型理解成“要买衣物”,系统直接执行。模型可能理解对,也可能理解错,问题不在于对错,而在于这个理解从未被用户确认,却被系统当成了用户同意的事实。我们突破的,就是这步中的黑盒问题。

第二、第三道幻觉可以靠模型变强缓解。第一道不能只靠模型变强解决,因为模型再聪明,也不能代替用户说:“对,我就是这个意思”。

猜对了是概率,同意了才是法律

法律上,一个行为要对用户产生约束力,前提是双方达成合意。合意说穿了就是:双方就某个问题达成一致。这才是后续执行的基础,如合同中“经双方一致同意”。

你去银行说“取钱”,柜员问“取多少”,你说“五百”,这一问一答就是合意的确认。柜员不能自己猜一个数,直接把钱给你,然后说“我猜你是这个意思”。猜的,不算你同意的。

当前主流智能体的架构里,意图识别和直接交付之间,恰恰缺少这个确认节点。模型输出一个最可能的解释,系统把它当成用户的意思,直接执行、直接交付。问题不在于猜得准不准,而在于猜这个动作本身。猜对了,是概率上的成功;同意了,才是法律上的成立。

传统业务里,这个节点由人承担。客户说“帮我看看这个”,经理会追问“您是要查余额,还是转账”。这个追问不是系统设计出来的,是人类交流的本能。智能体时代,这个本能消失了,却没有被制度性机制替代。

审计日志回答的是系统做了什么,前置确认回答的是用户同意了什么。前者是事后记录,后者是事前事实。

意图确认:把猜变成可确认的起点

信令科技做的不是另一个意图识别模型,而是一套前置的意图确认架构。它与现有方案的区别可以用一句话概括:现有方案让猜测更精确,意图确认让用户输入实现唯一性确定,并满足可审计要求。

核心逻辑三步:

第一,执行前固定意图。系统在执行和交付之前,把它认为自己理解的用户意图固定为可验证的记录。

第二,无条件触发确认。确认是执行和交付的必要前置步骤。模型再自信也不构成合意。

第三,执行中校准。执行中一旦偏离基准,系统主动暂停并重新校准。

这套架构解决的不只是猜错了怎么办,而是:交付的结果,法律上凭什么成立。它把智能体的法律效力基础,重新搭建在了智能体业务中。

不只金融,所有高合规场景都需要

合意不是金融智能体的行业约束,而是所有智能体交互的普遍法律前提。智能客服是最容易看懂的例子。

用户说“我要投诉”,智能体猜成“我要查询”,给出一段查询指引,这不是对投诉的处理,是对另一个问题的回答。回复发出去了,但法律上,它没有回应你真正提出的问题。如果这个过程中调用了客户信息,还可能涉及是否知情、是否同意、是否满足个人信息保护的法律要求。

同样的逻辑放到金融、医疗、教育、法律、政务,结论一样:只要智能体的输出要产生法律上或监管上的效力,用户输入就必须先被确认为唯一、可审计、可复现的意图,合意才有成立基础。

金融行业最尖锐:用户说“我不是这个意思”,机构拿得出证据吗?

金融是智能体落地最快、法律约束最密集的领域之一。

今天,当用户对金融机构说“我不是这个意思”时,几乎没有一家机构能拿出证据,证明用户当时到底是什么意思。机构能拿出的是交易日志、操作记录、模型版本,这些是系统做了什么的证据,不是用户同意了什麼的证据。

监管要求恰恰落在这个缺失上。金发〔2026〕8号文要求业务全流程责任清晰、可落实、可追溯。监管逻辑很清晰,办理用户明确授权的业务,不得超出边界。但当前架构下,无法提供明确业务办理的授权,因为猜测不构成合意,那么没有业务授权导致没有业务边界产生。

核验义务和举证能力之间,出现了结构性断裂。前置意图确认要解决的,正是这个断裂:当监管问“你怎么证明用户授权了这个”,机构可以拿出一份在执行前就被确认、被固定、不可事后单方解释的意图记录。这不是事后补救的证据链,而是事前就存在的合意事实。

不是踩刹车,是装法律合规底座

信令科技(杭州)有限公司是一家专注于可信AI决策基础设施的创新型技术企业,致力于为金融、政务、医疗等高合规行业提供意图识别可审计与多源数据冲突裁决的底层中间件产品。

公司核心团队具备跨领域复合背景,深度理解AI技术、金融业务。公司前沿布局可信AI,已完成从理论创新到专利布局到产品原型的完整闭环,构成完整的可信AI专利。目前正在推动成为世界标准。

信令科技的目标客户,是所有想进入欧盟市场的人工智能企业,为他们提供意图识别节点的合规方案,用于满足欧盟人工智能法案、DORA(《数字运营韧性法案》)监管要求。同时该方案,可用于辅助欧盟《通用数据保护条例》(GDPR)、《金融工具市场指令》(MiFID II)、《不公平商业行为指令》(2005/29/EC)等监管合规。

信令科技做的,不是让智能体少做事,而是让智能体做的每一件事,在法律上有一个可确认、可追溯、可举证的起点。

先确认,再执行,后交付。这不是给智能体踩刹车,而是给智能体装上法律上的合规底座。

+1
24

好文章,需要你的鼓励

参与评论
评论千万条,友善第一条
后参与讨论
提交评论0/1000

提及的AI

查看AI测评

36氪AI测评

选靠谱AI,看真实评测
查看
36氪AI测评官方交流社区
加入

36氪项目推荐

咨询项目审核和入驻
联系
36氪项目推荐订阅号
关注

下一篇

Sciland 将从生物医药研究出发,逐步扩展到更多科学领域,承载更复杂的科学问题,加速科学发现。

5小时前

36氪APP让一部分人先看到未来
36氪
鲸准
氪空间

推送和解读前沿、有料的科技创投资讯

一级市场金融信息和系统服务提供商

聚焦全球优秀创业者,项目融资率接近97%,领跑行业