AI/NLP3
Envisioning a Human Like AI：A Context-Centric Architecture
以动态上下文工程为核心的类人 Agent 随笔：记忆裁剪、人格、工具调用与「灵魂在文本中流动」。
SAE 特征筛选
用正负样本在 SAE 特征上的平均激活差筛选与安全相关特征，并讨论方向性与统计检验。
Transformer
把自注意力写成集合上的动态加权聚合：QKV、缩放点积、多头与位置编码等推导长文。
Search posts…