用神经网络从零发明1024个人类可辨的新符号——论证「记法本身就是智能的一部分」
Notational Intelligence, Linus Lee | Compile 26 · Linus Lee
全片 17 分钟·真正值得盯屏约 6 分钟·3 个必看点
- 0:00 – 3:20听
开场论点：智能住在人与符号的联合系统里
提出「记号智能」：竖式加法既不是纯心算、黑板也不是计算器，计算发生在大脑与书写符号的组合中；且记号数量远多于计算机，对增强人类智能可能影响更大。
智能不只在大脑或机器里，也在「人+书写符号」这个联合系统里。
纯口头立论，竖式加法例子听着就能想象，无需盯画面。▶ 跳到 0:00讲者 · Linus Lee - 3:23 – 6:20略
好记号的三属性与微积分记法之争
给出好记号的三个属性——抽象性、暗示性、自然变换性，并用莱布尼茨 dy/dx 战胜牛顿点记法的历史案例逐一印证。
莱布尼茨记法胜出是因为可以像操作比值一样机械地操纵符号且保持数学意义。
幻灯片上两套记法的并排对比值得扫一眼（256s 处），其余论述听讲即可。▶ 跳到 3:23讲者 · Linus Lee - 6:20 – 8:40略
扁平的力量：二维记号与坐标平面
论证「扁平」是记号的关键优势：可移动、缩放、复制、打印；坐标平面把方程变成可视线条，让物理空间直觉服务于数量关系。
图形空间的操作（如平移直线）直接对应概念上有意义的操作（如改截距）。
447s 的坐标平面示意是典型幻灯片图示，扫一眼即可建立直觉。▶ 跳到 6:20讲者 · Linus Lee - 8:40 – 10:25听
记号是被发明的：箭头只有约300年历史
用箭头符号 1737 年才出现（此前指方向要画一只手）和编程语言的诞生说明：记号系统是人为发明的认知工具，因此也可以继续被发明。
连箭头这么「理所当然」的符号都是晚近发明——新记号的空间远未穷尽。
以口头史料叙述为主，无关键画面依赖。▶ 跳到 8:40讲者 · Linus Lee - 10:25 – 12:50听
实验设定：不借人类记号，从零发明
交代实验目标与前提：区别于模拟象形文字演化的既有研究，这里要让生成模型完全从零造符号；发明记号需要输入域（表示什么）和媒介约束（如何呈现）两个要素。
发明新记号 = 输入域 + 媒介的固有约束，二者缺一不可。
属于实验的概念铺垫，口头论述为主，可当播客听。▶ 跳到 10:25讲者 · Linus Lee - 12:50 – 14:55看
机关揭晓：中间层是图像的自编码器
one-hot 向量经 ResNet 生成器产出 32×32 图像，解码器再还原向量，端到端梯度下降让生成器与解码器学会用「图像」对话。
把「符号」定义为自编码器的图像瓶颈层，符号系统就成了可训练的对象。
771s 起的架构图是理解整个实验的钥匙，看图远快于听描述。▶ 跳到 12:50讲者 · Linus Lee - 14:55 – 17:11看
结果与修正：1024个符号与人类视觉约束
模型学出 1024 个可区分符号，训练从噪声由简到繁演化；同时揭示朴素训练会得到「点亮第 n 个像素」的退化解，需把尺度/旋转/亮度不变性编码为媒介约束。
要让机器发明的符号对人有意义，必须把人类视觉的不变性偏好写进训练约束。
901s 起的符号字母表与训练演化画面是全片最值得亲眼看的视觉时刻。▶ 跳到 14:55讲者 · Linus Lee