大模型如何重塑 NLP 任务

在 BERT 之前,NLP 有几十个专门任务、专门模型:分词、词性、句法、NER、分类、摘要……每个都要单独训。大模型把这一切统一成“预训练 + 提示”,整个领域的结构被彻底重写。

这是技术史上最壮观的范式转移之一:几十年的学科积累,在几年内被一种统一方法重新组织。它提醒我们:领域的进步不总是渐进的,当出现更高层的抽象时,所有底层结构都会被重写。保持对范式的敏感,是每个从业者的必修课。

## 核心要点


图片[1]-大模型如何重塑 NLP 任务-子比笔记

图片来源:Openverse / brewbooks(https://www.flickr.com/photos/93452909@N00/2353899890)

1. “预训练+微调”取代了“为每个任务训模型”。

2. Prompt 工程让“调模型”变成了“写提示词”。

3. 传统 NLP 流水线退化为了大模型的一个个组件。

4. NLP 从“分而治之”走向了“大一统”。

图片[2]-大模型如何重塑 NLP 任务-子比笔记

图片来源:Openverse / neeravbhatt(https://www.flickr.com/photos/74601184@N00/6618334377)

## 写在最后

以上是关于「大模型如何重塑 NLP 任务」的科普介绍。人工智能正在快速发展,相关概念和方法也在不断演进。希望本文能帮你建立对这一主题的基本认识。

© 版权声明
THE END
喜欢就支持一下吧
点赞7 分享
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片快捷回复

    请登录后查看评论内容