都说小模型不行。我用 130 行 Python（不用任何框架）搭了一个最小 RAG 系统，让 3B 参数的本地模型回答公司制度问题，20 道题对了 18 道。它做对的秘密不在模型，在于喂它的方式。 一、RAG 是什么：给模型"递资料"的系统 本地部署过大模型的人很快会撞上同一堵墙：问它通用问题头头是 ...

最近把自用的 Windows 桌面日历整理成了可发布的版本，无登录、无账号、无广告、无订阅的单文件绿色版免安装。这个工具做的事一句话能说清：左键点任务栏时钟，日历就在时钟上方展开；不用它的时候，它安静得像不存在。发到技术社区主要是记录实现过程，跟做 Windows 桌面端的朋友交流踩坑经验。 工具做 ...

C++ 快读快写详解：读入整数与读入字符串 整数读入输出 众所周知，快读快写是众多 OI 选手必须掌握的一项卡常小技巧，优秀的读入输出可以让你的代码跑得飞快，有时甚至比别人多得一些分数，那么如何写快读快写呢，那就引入下面这道题：题目跳转：P10815 【模板】快速读入。 在此注明，这不是一篇关于P1 ...

会进行累加，每次加1 package main import ( "fmt" "sync" ) var wg sync.WaitGroup func testAdd(a *int) { *a = *a + 1 } func main() { num := 0 testAdd(&num) fmt.Pr ...

我是架构师老李。今天不是生产复盘，而是把我在纵腾集团参与海外末端派送系统研发管理时遇到的一类问题，改写成教学项目“远航派送”。人物、项目名、运单号、租户、压测数据均为教学假设，不涉及生产源码，也不复用生产性能数据。 一、背景：远航派送在做什么 “远航派送”是面向海外末端派送场景的教学系统。业务上有三 ...

上一篇提到，AI 编码时功能间契约往往因为缺乏跨会话的载体而全局失守。要回答“契约载体该怎么组织”，得先回到一个更加基本、却常被忽略的原点：项目管理为什么需要文档？如果我们不能回答为什么就无法回答如何做。 传统观念里，文档的价值通常被归结为三点：促成各参与方共识（避免会议记忆漂移）、指导后续开发（提 ...

# 【轻量化复刻大模型 / KIMI K3】Attention Residuals 完整梳理（2） 目录0x00 概要0x01 子知识点拆解0x02 子知识点深度分析2.0 共享抽象与设计动机2.1 打分核（scoring kernel）与伪查询2.1.1 原理（三视角）2.1.2 对比基线2.1. ...

算术运算符用来对数字做计算，就是加、减、乘、除、取余，和数学里一样。 动画视频在《0.1+0.2=0.30000000000000004？ArkTS算术运算符实战详解》。 下面用 10 和 3 各算一次。 let a: number = 10; let b: number = 3; console. ...

我的暴力有救了哈哈哈。 是什么 莫队是一种离线区间查询的算法，是前国家队队长莫涛提出并推广的。由离线+分块（排序）+暴力移动指针组成，简直就是优雅的暴力。 关于莫对的分类：目前有普通的只查询莫队、带修莫队（带修改的）、回滚莫队（用撤销操作来代替删除等修改）、以及树上莫队（树剖+其他的（带修\(\do ...

本文按“先说结论 → 普通 Agent 与防注入 Agent 对比 → 四层安全架构拆解 → 真实验证链路 → 2024–2026 论文演进 → 技术边界”的顺序，把端侧 AI 交互智能体（任务提取 + 个人数据问答）的防提示词注入架构彻底讲透，拒绝云里雾里的概念堆砌。 一、 先说结论 防提示词注入 ...

忙起来时，我们常把“休息一下”推迟到下一件事之后。Tick Rest 是一款免费开源的 Mac 休息提醒 App，通过菜单栏倒计时、小窗或全屏提醒，帮你记得远眺、喝水和起身活动。它内置护眼、50/10、番茄工作法等方案，支持自定义间隔与时长，还能设置工作时段、延后或暂停提醒，配合不同的工作节奏。无需... ...

AI 生成声明：本文内容由 AI 生成或经 AI 辅助完成，请注意甄别。 有同学在项目里写了这样一段 WebSocket 消息序列化代码，然后在评审时连续抛了几个好问题： message = json.dumps({ "type": event_type.value, "data": data }, ...

前面的shiro反序化https://www.cnblogs.com/nihao-xing/p/23433100 大致介绍了原理，我知道哪怕我写的原理再详细，其实很多人也会对着理论头大，其实我也很讨厌理论，可是我们是做研究的，这个问题是无法回避的。所以后面我会尽量多的收集些源码去进行复现和总结。但是 ...

​ 为什么你很会用AI，但就是做不成FDE? 最近大家都在讨论FDE，但更多的是听到被培训割了韭菜。 私下也有太多人来问我，于是我决定干脆把这一年多给国企和上市公司AI落地和培训、交付过多个百万级别项目的FDE心得整理出来，分享给大家，希望帮真正有需要的同学避坑。 我相信，即便你不做FDE，这套方法 ...

共享 Vector 集群的内存每天涨约 10 个百分点、每周被重启一次。allocation tracing 一直把矛头指向上游 transform，真正持有内存的却是 datadog_metrics sink：它为每条累计值 series 保存的增量转换基线没有 TTL 也没有容量上限。本文记录从... ...

菜单加到十项后，代码里冒出一个不像函数的地址：它不执行，却替菜单记住“该调用谁”。函数指针如何把选择变成数据？宏、反斜杠、do-while(0)和X-Macro又为何一起登场？从回调到表驱动，一次拆开。 ...

WORKHUB · 开源项目 工具、资料、创作与生意，本来就不该散落在十几个标签页里。 独立开发者的日常，大概是这样的：写代码在 VS Code，记灵感在备忘录，收藏夹在浏览器，客户资料在表格，发票和回款又是一套 Excel。每个工具都不差，但它们彼此不认识。 WorkHub 想做的不是再加一个工具 ...

ROS2 保姆级课程（Python 入门版）· 课程大纲 课程名称：ROS2 保姆级课程（Python入门版） 定位：面向零基础小白的 ROS2 保姆级入门视频课 形态：按集规划（每集含目标、演示、坑点、预期输出、小作业） 范围：环境 → 通信 → 工具链 → 建模仿真 → 综合项目 技术栈：WSL ...

学了一些比较有意思的东西，记录一下。 关于 AI ：本文使用蓝色大肥鱼进行查错和标准化，可能会有一点人机味道，保证人类贡献大于 AI。 鞅 设 \((\Omega,\mathcal F,\mathbb P)\) 是概率空间。 随机过程 \(\{M_n\}_{n\ge 0}\) 称为关于 \(\{\m ...

title: Transformer 架构详解 author: 凌杰 date: 2026-09-28 tags: [深度神经网络, Transformer, 注意力机制] categories: 基础理论学习 [!NOTE] 笔记说明 这篇笔记对应的是《[[关于 AI 的学习路线图]]》一文中所规 ...