大语言模型共5篇
什么是大语言模型:它到底大在哪里-子比笔记

什么是大语言模型:它到底大在哪里

大语言模型(LLM)是参数规模达到数十亿到数千亿的语言模型,通过在互联网级文本上预训练,获得了对话、写作、编程、推理等广泛能力。它“大”在参数、数据、算力,也“大”在能力范围。 理解大...
admin的头像-子比笔记admin9小时前
03111
Token:大模型的“最小阅读单位”-子比笔记

Token:大模型的“最小阅读单位”

Token 是大模型处理文本的最小单位,可能是一个字、一个词或一个词根。中文一句话通常被切成多个 token,英文一个单词可能是 1-3 个 token。模型按 token 计费、按 token 计数上下文。 理解 tok...
admin的头像-子比笔记admin9小时前
0387
上下文窗口:模型的“工作记忆”-子比笔记

上下文窗口:模型的“工作记忆”

上下文窗口是模型一次对话能记住的最大 token 数。窗口小的模型聊几句就“失忆”,窗口大的模型能处理整本书。它是衡量模型实用能力的重要指标。 一个常见误区:把所有资料塞进上下文就觉得模型...
admin的头像-子比笔记admin9小时前
0327
温度参数:控制 AI 的创造力旋钮-子比笔记

温度参数:控制 AI 的创造力旋钮

温度(Temperature)是控制模型输出随机性的参数,取值通常 0 到 2。温度越低输出越确定保守,温度越高越发散有创意。写代码用低温度,写诗歌用高温度。 温度的存在说明 AI 输出本质上不是“查...
admin的头像-子比笔记admin9小时前
0439
什么是幻觉:AI 为什么会一本正经胡说八道-子比笔记

什么是幻觉:AI 为什么会一本正经胡说八道

幻觉指模型生成看似合理但实际错误的内容——编造不存在的论文、虚构人物生平、给出错误的代码接口。这是大模型最被诟病的问题,也是影响生产环境采用的核心障碍。 与幻觉共存的正确姿势是“信...
admin的头像-子比笔记admin9小时前
02511