分词器共1篇
分词器（Tokenizer）：模型如何切分语言-子比笔记

分词器（Tokenizer）：模型如何切分语言

分词器把连续文本切成模型能处理的 token 序列。它决定了模型如何“看待”语言，直接影响效率、多语言能力与代码处理能力。小小的分词器，其实深刻影响模型表现。 分词器是一个被严重低估的组件...
大语言模型
admin的头像-子比笔记admin12小时前
03510

文章分类

热门标签

Agent (5) AGI (3) AIGC (13) AI伦理 (4) AI历史 (5) AI基础 (3) AI安全 (7) AI应用 (27) AI技能 (4) AI教育 (4) AI编程 (4) CNN (6) NLP (23) Prompt (4) RAG (4) Transformer (6) 人工智能 (3) 企业应用 (4) 优化 (7) 图像处理 (5) 大模型 (22) 大语言模型 (5) 开发工具 (5) 强化学习 (4) 技术前沿 (10) 推理 (4) 提示词 (6) 效率工具 (5) 数据 (4) 数据科学 (5) 机器学习 (15) 模型架构 (6) 模型训练 (3) 模型评估 (8) 模型部署 (4) 深度学习 (24) 神经网络 (8) 科普 (13) 算力 (3) 算法 (15) 计算机视觉 (24) 训练技巧 (7) 语音技术 (5) 过拟合 (3) 采样 (4)

文章归档

关于本站

这是一个使用 Zibll 子比主题搭建的个人站点，分享科技、生活、文化、旅行与健康方面的思考与记录。

欢迎在文章下方留言交流。

功能