拆解“AI”这个词如何反过来支配我们,并教从业者夺回设计技术的能动性。
Agency in Language, Alane Suhr | Compile 26 · Alane Suhr
全片 15 分钟·真正值得盯屏约 6 分钟·2 个必看点
- 0:00 – 1:45听
语言塑造我们,而表达是搜索问题
开场提出全片框架:我们使用和创造的语言反过来塑造自身与世界;表达永远无法完全命中意图,所以人会发明新概念或借用模糊概念来宽泛地指向想说的东西。
一个概念的“意义”,可以理解为它促使我们去做的事情。
纯口头论述、无画面依赖,适合当播客听;重点在建立后文反复使用的分析框架。▶ 跳到 0:00讲者 · Alane Suhr - 1:45 – 3:31听
意义的三分法:内涵、外延、言外之意
给出贯穿全片的分析工具:内涵意义是构成概念的标准,外延意义是概念在当下语境的具体指称,言外之意是概念对语境施加的隐含推断(如“讲课者默认拥有权威”)。
记住这三个词——后面对“AI”的整套解剖都建立在这套三分法上。
概念定义靠口头例子展开,无值得抽帧的画面;专心听懂三分法即可。▶ 跳到 1:45讲者 · Alane Suhr - 3:34 – 6:20听
“AI”是一个承诺了不可能之物的概念
learning、consciousness、reasoning 等概念从未有令人满意的内涵定义,模糊本是语言的正常工具;但“AI”特殊在它让人相信存在一套尚未揭示、揭示后必被公认的判定标准——而这套标准不可能存在。
当概念承诺了无法兑现的东西而我们未察觉,就会向一个只能信仰的事物让渡能动性。
全片论证密度最高的一段,但仍是纯口头推理;建议不倍速、逐句跟上。▶ 跳到 3:34讲者 · Alane Suhr - 6:20 – 8:20听
追基准者与否定论者,被同一个概念驱使
用基准测试为 AI 构建判定标准的经验主义者,与断言“概率模型永远不可能是 AI”的否定论者(如 Gary Marcus),看似对立,实则共享同一模式:都仍相信并任由“AI 是否达成”驱使自己。
反对 AI 叙事的人,往往和追逐它的人一样被这个概念支配。
观点对比靠口头陈述完成,无演示或图表;听清两派的共同前提即可。▶ 跳到 6:20讲者 · Alane Suhr - 8:20 – 10:34听
外延还原:LLM 是人类语言的压缩表示
今天“AI”的外延指称就是 LLM:神经模型是训练数据的压缩,而最经济的压缩就是表征生成数据的底层结构(句法、类比、常识),连简陋的语言模型也能一致编码“国家—首都”类比;指令微调只是让输出呈现为我们会解读成“回应”的形式。
模型输出难与真人区分,恰恰利用了我们向语言解读意图的本能——在人机关系私人化时已酿成与聊天机器人相关的死亡案例。
技术还原与风险论述均为口头展开,无标记的视觉时刻;这段信息量大,适合原速听。▶ 跳到 8:20讲者 · Alane Suhr - 10:35 – 12:40听
概念靠故事与预言自我正当化
AI 概念通过科幻叙事(终结者、HAL 9000 正是其言外之意的产物)、基准和预测不断“自我正当化”:只要我们相信并受其支配,它就成真。
把“AI 不可避免”当成预言接受,就是亲手把一个虚构概念造真。
文化引用均为口头点到,无需看画面;重点是理解“预言的自我实现”机制。▶ 跳到 10:35讲者 · Alane Suhr - 12:40 – 14:33听
结语:人在房间里,人有能动性
收束全片:概念本身没有能动性,人才有;技术从业者身处做决策的房间,应拒绝“技术不可避免”的话语框架,围绕赋能他人等人类价值观来设计技术。
你可以拒绝“不可避免”的叙事——设计技术的能动性始终在人手里。
行动号召式结尾,情绪与措辞是重点,完整听完比看画面更重要。▶ 跳到 12:40讲者 · Alane Suhr