AI的iphone时刻
本文是圆方的第1634篇原创
(点击标题下方小耳机标志可收听音频)
9月15日,TypeSafe AI正式发布Jev,首次提出「System One Models」这一模型概念。按照这个定义,此类模型接收程序状态或文本信息作为输入,以极快速度输出结构化判定结论,附带各结论的概率分布。Jev它不写文章、不生成长篇对话,专门做快速判断。判断消息要不要回复、识别内容是否违规、筛选选项、识别意图。测试显示,它比主流大模型最快提速近200倍,成本降低约400倍,输出不计token费用,延迟低至毫秒级。AI的iPhone时刻
Agent要进入真实工作流,面对的是连续不断的小决策。消息要不要回,内容是否违规,任务该分给谁,当前信息是否足够,下一步是否触发工具。这些判断数量巨大,价值密度低,却决定Agent能否持续运行。如果每个判断都走完整推理链,延迟和成本会立刻失控。人类能同时处理很多事,靠的是大量快速判断被压缩成近乎自动的反应。System One Models给出的答案,就是极快输出结构化判定和概率分布。这层能力让Agent可以先把海量琐碎选择过滤掉,把深度推理留给真正复杂的问题。没有这层潜意识,Agent永远只能做被人类明确召唤的问答工具,无法成为持续在线的执行者。
但是光有潜意识其实意义不大,真正重要的是很多人忽略的另外一件事情Claude Tag项目是Anthropic今年的一个新项目,知晓率并不是很高。简单说就是把Claude放进Slack协同办公平台,让它以独立代理身份常驻团队工作流。它的革命性在于AI获得组织身份、权限、记忆和异步执行能力。团队成员可以委派任务,Claude会在频道上下文里持续推进,连接外部工具,完成任务后保留记忆。过去每个人面对自己的聊天窗口,现在一个团队共享一个持续存在的代理。Tag,让AI从个人助手变成组织工作流里的常驻参与者。
最大的挑战是持久化任务会反复唤醒,重放上下文,token消耗随时间和消息量累积。每个频道都保持监听,每条消息、每次环境变化、每个未完成任务都可能触发判断。若所有判断都调用大模型,算力和账单会随组织规模迅速膨胀。所以Tag越常驻,流量压力越大。
不过Jev出现了。Jev解决的是潜意识判断。它做快速分类、筛选、识别、判定,延迟低到毫秒,Tag解决常驻和深度思考。Jev做快速判定,Tag做深度执行。两者结合,Agent就能先以极低成本持续感知,遇到真正重要的事再进入深度推理。它不会因为每个小判断都昂贵而停摆,也不会因为只做快速反应而缺乏复杂任务能力。
iPhone定义手机,靠的是把触摸交互、应用生态、移动连接、传感能力收进一个标准形态,后来做手机的都得朝这个方向走。Jev代表潜意识层,负责毫秒级结构化判定,把海量琐碎选择压到极低成本。Tag代表常驻层,负责身份、权限、记忆、异步执行和深度推理,维持任务持续推进。只有深度思考,每个小判断都走长链条,成本和延迟会失控。圆方判断,未来所有agent系统都会围绕这个双层结构收敛。上层保持在场,积累上下文,连接工具,推进多步流程。下层持续感知,快速分类、筛选、识别、路由,把真正重要的事交给上层。Agent的iPhone时刻,意味着一个新平台周期启动。圆方是iPhone的第一代的用户,就是那个黑银拼色的铁壳手机。当时只是觉得,它是一个比诺基亚要好用的手机,可以在上面玩切西瓜。而iPhone出现之后那几年,App Store一开,微信、抖音、美团、滴滴、Instagram、WhatsApp、Uber接连出现。移动支付、外卖、短视频、打车、共享住宿、直播、手机游戏都成长为巨大产业。当时很多人只盯着一部手机,后来才发现真正改变日常的是手机上出现的应用生态。圆方感慨,平台周期刚启动时,大机会往往在更后面出现。今天Jev加Tag把常驻和潜意识两层搭起来,后面也会有一批新应用和新服务陆续冒出来,很多今天还没名字。这轮周期刚开始,能看懂双层结构的人,才有机会站到下一波入口上。