✳ 你好,欢迎来到我的个人空间。
学一点,
再做一点。
探索大模型,也把想法写成代码。
这里存放我的学习笔记、实践项目,
和一些生活里的小发现。
A work in progress.
Read. Think. Build.query = self.W_query(x)
key = self.W_key(x)
value = self.W_value(x)
attention = softmax(
query @ key.T / √d
) @ value
Attention
is all you need.
理解信息之间的关联01 / 03
持续探索中 ↗
阅读多头注意力笔记 ↗
目前关注推理优化与 Agent 系统中国 UTC+8
✳LLM
Guide.
A personal
learning collection↗
从原理,到实践。
十三篇学习记录,涵盖注意力机制、
推理优化、RAG 与上下文工程。
✳偶尔,也让思绪出去走走。
写点代码,读点东西,留一点空间给生活。
鹈鹕海岸骑行 · 3D 小游戏 +