让全员用自然语言自助查业务数据,答案一句话固化成零LLM成本的widget
Why Can't Anyone Answer Questions About the Business? — Garrett Galow, WorkOS · Garrett Galow
全片 19 分钟·真正值得盯屏约 4 分钟·3 个必看点
- 0:14 – 3:41听
为什么没人答得上业务问题
拆解内部提问的老路径:预置仪表盘僵化、覆盖不了长尾问题,非技术同事只能找懂 SQL 的人来回追问,再在 Slack 一次性分享,每天发生且无法规模化。
瓶颈不在缺仪表盘,而在长尾问题的回答链路依赖少数会 SQL 的人。
纯问题陈述与动机铺垫,无关键画面,适合当播客听。▶ 跳到 0:14讲者 · Garrett Galow - 3:41 – 4:50看
Studio 登场:agent 自主查数
展示 Studio 的 agent 如何感知自己可访问的 Linear、Notion、Snowflake,自动理解表结构、连续运行多条查询自行定位数据。
agent 不是执行你写好的查询,而是自己探索 schema、多轮试查直到找到答案。
LLM 标记的关键视觉时刻(221.81s),agent 连跑查询的过程画面比口述直观得多。▶ 跳到 3:41讲者 · Garrett Galow - 4:50 – 6:57略
架构拆解
入口是内部 Web 面板或 Slack bot,请求经 API 交给 LangGraph 编排的 agent(LLM 用 Opus),配合工具层与指导层驱动查询,会话状态存于 Convex。
架构组合拳:LangGraph 编排 + Opus 生成 + 指导层兜底 + Convex 存会话。
架构图幻灯片(289.56s 视觉时刻),瞄一眼图记住组件关系即可,不必逐句细看。▶ 跳到 4:50讲者 · Garrett Galow - 6:57 – 8:50看
从一次性答案到长期资产
得到答案后追加一句话即可固化为可按时间切片的复用 widget;支持团队从工程师分享 SQL,转变为在 Slack 用挂好查询的 widget 自助查真实数据,中途出错说『继续』即可恢复。
自助化的飞轮:一次性问题当场自答,重复问题固化成 widget 全员共享。
连续三个视觉时刻(416.73/469.61/516.88s)构成完整演示链,是全片最值得盯屏幕的段落。▶ 跳到 6:57讲者 · Garrett Galow - 8:50 – 12:10听
三大可靠性支柱
Sequencing:先跑预检清单、只在真调用工具时注入其上下文以省 context window;Layering:base prompt 与组织级规则分层,并显式让 LLM 不信任训练数据里的过时产品知识;Validation:SQL 合法不等于有数据,必须实跑验证再固化进 widget。
『语法合法但返回零行』是最隐蔽的坑——agent 必须先实跑查询验证有数据。
方法论论述为主,无演示画面,逻辑连贯适合专注听。▶ 跳到 8:50讲者 · Garrett Galow - 12:10 – 14:19听
指导层:把领域惯例写进上下文
仅靠 schema 无法正确查询庞杂内部库,指导层必须编码领域惯例——客户如何在 Snowflake 表示、表如何有效 join、只取 active 实体等过滤条件。
写入惯例后剩余错误往往大而明显,但仍要 trust-but-verify。
729.88s 有一处上下文内容展示可扫一眼,但核心是口头阐释的治理思路,听为主。▶ 跳到 12:10讲者 · Garrett Galow - 14:19 – 18:48听
问答:治理、确定性与成本
回应『错误查询被当真相』的治理担忧;解释 widget 是 LLM 一次性生成的 JS,运行时纯确定性代码、零持续 LLM 费用;数据访问演进为 org connectors,按默认权限与 Studio 角色分级。
LLM 只在生成时介入、运行时纯确定性——Opus 的钱只花在这一环节,物有所值。
问答环节无画面依赖,且藏着架构与成本取舍的关键答案,适合倍速听完。▶ 跳到 14:19讲者 · Garrett Galow