向量数据库:AI 时代的新基础设施
传统数据库存的是数字与文字,向量数据库存的是语义向量,支持“找最相似的”这种新查询。它是 RAG、推荐系统、图像检索的共同底座,被称为 AI 时代的基础设施。 向量数据库的兴起说明:当数据...
MCP:AI 工具调用的统一协议
MCP(Model Context Protocol)是 Anthropic 提出的开放协议,统一了模型与外部工具的连接方式:装一次 MCP 服务器,所有支持它的模型都能用。它正在成为 Agent 生态的“USB 接口”。 MCP 的故...
大模型的数学能力:会做题≠会思考
大模型能解奥数题,却会在“9.11 和 9.8 哪个大”上翻车。它的数学能力是模式匹配而非符号推理——看起来会做题,其实是在模仿见过的解题格式。 这个现象最能说明当前 AI 的本质:它擅长格式与...
AI 写代码的水平线:现在到哪了
AI 编程的能力边界在快速移动:从补全单行,到写整个函数,到理解多文件项目,到自主完成需求。SWE-bench 等基准的分数每年都在大幅跃升。 AI 编程最值得关注的不是替代程序员,而是降低了创造...
多语言能力:大模型不只是英语模型
大模型的多语言能力极不均衡:英语最好,中文次之,小语种常常一塌糊涂。这不只是数据问题,也关乎 tokenizer 设计与训练资源分配。 多语言问题是 AI 公平性的一个具体侧面:英语世界的人用着更...
Embedding 模型与语义搜索实战
语义搜索的原理很简单:把文档与查询都转成向量,算距离找最相关的。它不匹配关键词,而匹配意思,因此能理解“同义不同词”的查询。 语义搜索的体验提升是质变的:搜“怎么让电脑快点”能找到...
解码策略:如何让 AI 说“对”的话
模型给出的是每个词的概率分布,最终说什么由解码策略决定:贪心解码总是选最高概率(稳定但死板),束搜索平衡质量与多样性,采样策略带来创造力与意外。 解码策略的存在说明:同样的知识储备...
端侧大模型:AI 走进手机
端侧大模型把几十亿参数的模型装进手机和 PC,数据不出设备、无需联网、零调用成本。它正在重塑 AI 的部署形态——不是所有智能都需要云端。 端侧 AI 的意义超出技术本身:它意味着智能可以离线...
模型服务化:从模型到产品的跨越
裸模型只是半成品,真正交付价值的是围绕它的服务层:限流、计费、负载均衡、缓存、内容审核、监控告警。这些“无聊”的工程,才是 AI 产品稳定运行的核心。 这个道理对所有技术创新都成立:聚...
Function Calling:AI 调用工具的接口
Function Calling 让模型能“调用”外部函数:你说想查天气,模型生成一个 get_weather(location) 调用,系统执行后把结果返回给它。这是 AI 从“聊天”走向“办事”的技术基础。 Function Call...
代码解释器:AI 动手算的能力
代码解释器让模型在沙箱里写代码并实际运行——做数据分析、画图表、解方程、处理文件。它弥补了语言模型不擅长精确计算的短板,是 AI 数据分析的基石。 代码解释器体现了一个深刻转变:最强大...
联网搜索:给 AI 装上实时信息
大模型的知识止于训练截止日。联网搜索让它在回答前先检索最新信息,把“过时”这个致命缺陷补上了。搜索增强已成为 AI 助手的标配能力。 联网搜索让 AI 从“回顾过去”变成“面向当下”。这也...













