公开笔记 笔记

• 近缘语言距离量化的模型与指标 语言研究 LaBSE mBERT 句向量
  北日耳曼语支论文使用的 2 种多语言预训练模型（LaBSE、mBERT）与 3 种量化指标（句向量距离、碎片化率、MLM 置信度）的技术说明与扩展路线。 - 2026-09-27
• 计量语言学参考文献清单 语言研究 计量语言学 参考文献 Zipf
  计量语言学（Quantitative Linguistics）核心文献清单，涵盖奠基文献、跨语言定量比较、依存距离、神经句向量、北欧互懂度研究、中文计量语言学，以及重要期刊与会议 - 2026-09-27
• 计算语言学参考文献清单 语言研究 计算语言学 参考文献 Transformer
  计算语言学（Computational Linguistics）核心文献清单，从图灵测试与形式语言理论到统计方法、神经网络、Transformer、大语言模型，涵盖教科书、手册与中文信息处理 - 2026-09-27
• 向量计量语言学 语言研究 语言学 计量语言学 向量方法
  用多语言预训练模型（LaBSE/XLM-R）的向量空间测量语言距离的个人研究方法总结：平行句控制变量、四种计算实验、双指标对照与验证闭环 - 2026-09-27
• Gooskens (2007) 近缘语言互懂度与语言距离 语言研究 语言距离 互懂度 近缘语言
  Gooskens (2007) 用 Levenshtein 语音距离和词汇距离解释北欧三语互懂度变异的经典研究，是本文论文最重要的对标文献。附 Gooskens 后续研究扩展（2014-2024）及对下一步研究的启示。 - 2026-09-27
• 计算语言学与计量语言学 语言研究 计算语言学 计量语言学 学科对比
  计算语言学（Computational Linguistics）与计量语言学（Quantitative Linguistics）的英文、简介与核心对比，从国内十五所高校院所、五大国际学会与七本期刊认识两个学科的建制面貌，并梳理它们的应用方向 - 2026-09-27
• Jev模型：不做决策之外的任何事 理解式模型 AI Jev TypeSafe
  TypeSafe AI 发布的 System One 决策模型 Jev，不生成文本、只做结构化判断，比 LLM 快 200 倍、便宜 400 倍的"决策层"是什么 - 2026-09-19
• Q/K/V 三向量：Transformer 的核心机制 人工智能 Transformer Q/K/V 注意力机制
  深入理解 Query、Key、Value 三个向量的生成过程、分工逻辑和计算机制，这是掌握 Transformer 注意力机制的关键一步 - 2026-09-18
• 预训练范式：从 BERT 到大模型时代 人工智能 预训练 微调 BERT
  理解"预训练+微调"两阶段范式如何彻底改变 AI 行业，从 2018 年 BERT 发布到 GPT-4 时代的完整演进脉络 - 2026-09-18
• Transformer 模型架构图详解 人工智能 Transformer 注意力机制 神经网络架构
  逐层拆解 Transformer 论文 Figure 1 的经典模型架构图，包括编码器、解码器、自注意力、交叉注意力等核心组件 - 2026-09-16
• 大模型发展简史 人工智能 大模型 Transformer GPT
  从 2017 年 Transformer 论文到 2026 年大模型百花齐放，梳理 AI 大模型的关键节点、架构之争与"简单架构为何胜出"的核心洞察 - 2026-09-15
• Transformer 拆解理解 人工智能 Transformer 注意力机制 序列数据
  将 Transformer 的定义拆解为"注意力机制"、"序列数据"、"神经网络架构"三部分逐一理解，建立对 Transformer 本质的直觉认知 - 2026-09-15
• bert-base-chinese 词表解剖：21,128 个词条里都有什么 理解式模型 AI BERT WordPiece
  用 Python 解析 bert-base-chinese 的 tokenizer.json，统计词表组成、验证繁简体处理、列出中文单字样本，实证 WordPiece 对中文退化为逐字切分 - 2026-09-14
• BERT 推理过程详解：第 2 步 从数字到答案 理解式模型 AI BERT 推理
  承接分词笔记，讲解 BERT 分类模型如何将 token ID 转为 logits，再通过 softmax、argmax 得到类别编号，最后查表返回预设答案 - 2026-09-14
• 大模型推理优化关键技术及应用实践研究报告（2026年） 研究报告 大模型推理 推理优化 PD分离
  信通院《大模型推理优化关键技术及应用实践研究报告（2026年）》解读：模型-引擎-系统三级优化体系、PD/AF 分离架构、KV Cache 多级存储，以及 Mooncake/Dynamo/UCM 与 DeepSeek/MegaScale-Infer/Step-3 等工业级方案与五大行业落地案例 - 2026-09-14
• BERT 的 12 层 Transformer：每层在做什么？ 理解式模型 AI BERT Transformer
  把 BERT 的 12 层 Transformer 类比为 12 位专家流水线，逐层说明从字面意思到词组含义再到句子意图的表征递进 - 2026-09-12
• BERT 分词过程详解：第 1 步 从文字到数字 理解式模型 AI BERT 分词
  拆解 BERT 分词全流程：切分为单字、查词表转 ID、填充到固定长度后送入模型，说明模型只处理数字不处理文字 - 2026-09-12
• BERT分类模型训练数据准备：从知识条目到问法变体 理解式模型 BERT 训练数据 HXXedge
  记录HXXedge系统BERT分类模型的训练数据准备流程，包括preset_qa.json的结构、问法变体生成机制、以及类别重复导致短问题分类失败的诊断与修复过程 - 2026-09-12
• HuggingFace：AI 世界的 GitHub LLMs AI HuggingFace 开源社区
  HuggingFace 既是模型与数据集托管平台，也是 Transformers、Datasets 等开源工具与社区标准的提供者，是 AI 生态的基础设施 - 2026-09-12
• bert-base-chinese：中文 BERT 原始模型详解 理解式模型 AI BERT bert-base-chinese
  bert-base-chinese 是 Google 2018 年发布的中文预训练 BERT 模型，解析其模型结构、词表与配置文件，以及作为中文 NLP 微调起点的用途 - 2026-09-11