APLAB.ACADEMY · 交互式学习仪器
图 01 — 论点

掌握
基础。
通过交互。

大多数 ML 课程要求你阅读公式并观看视频。这里,每节课都围绕一个可操作的仪器构建——一个你可以一边阅读一边摆弄的东西。先建立直觉,然后是数学,然后是代码。

出品 AP LAB ↗EST. 2024EN · RU · ZH
FIG. 01Multi-Head Self-Attention — try a token
INTERACTIVE
YOUR SENTENCE · TYPE TO POKE
INPUT TOKENS · CLICK TO QUERY
ATTENTION FROM "sat" — HEAD 0
1
99
1
0
0
0
The
cat
sat
on
the
mat
Illustrative — stylised attention patterns computed from your sentence, not a trained model. The real engine is in the Attention Microscope.
ATTENTION HEADS
OBSERVATION · PREVIOUS TOKEN
This head looks one step back — each token attends to the token immediately before it. The very first token has nothing prior, so it attends to itself. Induction and copying circuits lean on exactly this.
Figure 1.来自 Transformer Explorer 的实时预览。点击词元,切换注意力头,观察模式变化。
§02 · 方法
连接式学习,而非线性讲座。
每个概念有四次穿越。每次都让你已经理解的内容更深一层。
I.
直觉
看到它运作。
从可操作的可视化开始。先不上方程——只观察模式。
interact
II.
理论
然后形式化。
当直觉建立后,数学就成为对你已看到的内容的描述。
derive
III.
代码
亲手实现。
在可运行的环境中实现概念。打破它。修复它。掌握它。
execute
IV.
连接
它还在哪里?
每个概念都连接到它在其他地方的出现——是知识图谱,而不是轨道。
navigate
图 05 — 邀请
阅读是一回事。
操作是另一回事。
从一门免费课程开始。高级版解锁进阶轨道和每个仪器的完整源代码。