EN
AI Engineer World's Fair

让全员用自然语言自助查业务数据,答案一句话固化成零LLM成本的widget

Why Can't Anyone Answer Questions About the Business? — Garrett Galow, WorkOS · Garrett Galow

19 min
AgentContextEvalsAI 产品

全片 19 分钟·真正值得盯屏约 4 分钟·3 个必看点

橙色 = 推荐必看的 4 分钟其余读导览就够
逐段导览 · 7 段
  1. 0:14 3:41

    为什么没人答得上业务问题

    拆解内部提问的老路径:预置仪表盘僵化、覆盖不了长尾问题,非技术同事只能找懂 SQL 的人来回追问,再在 Slack 一次性分享,每天发生且无法规模化。

    瓶颈不在缺仪表盘,而在长尾问题的回答链路依赖少数会 SQL 的人。

    纯问题陈述与动机铺垫,无关键画面,适合当播客听。▶ 跳到 0:14
    讲者 · Garrett Galow
  2. 3:41 4:50

    Studio 登场:agent 自主查数

    展示 Studio 的 agent 如何感知自己可访问的 Linear、Notion、Snowflake,自动理解表结构、连续运行多条查询自行定位数据。

    agent 不是执行你写好的查询,而是自己探索 schema、多轮试查直到找到答案。

    LLM 标记的关键视觉时刻(221.81s),agent 连跑查询的过程画面比口述直观得多。▶ 跳到 3:41
    讲者 · Garrett Galow
  3. 4:50 6:57

    架构拆解

    入口是内部 Web 面板或 Slack bot,请求经 API 交给 LangGraph 编排的 agent(LLM 用 Opus),配合工具层与指导层驱动查询,会话状态存于 Convex。

    架构组合拳:LangGraph 编排 + Opus 生成 + 指导层兜底 + Convex 存会话。

    架构图幻灯片(289.56s 视觉时刻),瞄一眼图记住组件关系即可,不必逐句细看。▶ 跳到 4:50
    讲者 · Garrett Galow
  4. 6:57 8:50

    从一次性答案到长期资产

    得到答案后追加一句话即可固化为可按时间切片的复用 widget;支持团队从工程师分享 SQL,转变为在 Slack 用挂好查询的 widget 自助查真实数据,中途出错说『继续』即可恢复。

    自助化的飞轮:一次性问题当场自答,重复问题固化成 widget 全员共享。

    连续三个视觉时刻(416.73/469.61/516.88s)构成完整演示链,是全片最值得盯屏幕的段落。▶ 跳到 6:57
    讲者 · Garrett Galow
  5. 8:50 12:10

    三大可靠性支柱

    Sequencing:先跑预检清单、只在真调用工具时注入其上下文以省 context window;Layering:base prompt 与组织级规则分层,并显式让 LLM 不信任训练数据里的过时产品知识;Validation:SQL 合法不等于有数据,必须实跑验证再固化进 widget。

    『语法合法但返回零行』是最隐蔽的坑——agent 必须先实跑查询验证有数据。

    方法论论述为主,无演示画面,逻辑连贯适合专注听。▶ 跳到 8:50
    讲者 · Garrett Galow
  6. 12:10 14:19

    指导层:把领域惯例写进上下文

    仅靠 schema 无法正确查询庞杂内部库,指导层必须编码领域惯例——客户如何在 Snowflake 表示、表如何有效 join、只取 active 实体等过滤条件。

    写入惯例后剩余错误往往大而明显,但仍要 trust-but-verify。

    729.88s 有一处上下文内容展示可扫一眼,但核心是口头阐释的治理思路,听为主。▶ 跳到 12:10
    讲者 · Garrett Galow
  7. 14:19 18:48

    问答:治理、确定性与成本

    回应『错误查询被当真相』的治理担忧;解释 widget 是 LLM 一次性生成的 JS,运行时纯确定性代码、零持续 LLM 费用;数据访问演进为 org connectors,按默认权限与 Studio 角色分级。

    LLM 只在生成时介入、运行时纯确定性——Opus 的钱只花在这一环节,物有所值。

    问答环节无画面依赖,且藏着架构与成本取舍的关键答案,适合倍速听完。▶ 跳到 14:19
    讲者 · Garrett Galow