LLM 到底是什么 —— 把"大模型"这个词拆开看

Administrator 0 阅读 AI 发展史

来源:2017 Transformer → 2020 GPT-3 → 2022 ChatGPT 出圈
一句话:LLM(Large Language Model,大语言模型)本质是一个超大规模的"文字接龙"机器——给它前文,它预测下一个字该是什么。

1. 它从哪来

《AI 发展史》第四篇讲过:Transformer 架构 + 预训练。把这两个合起来就是 LLM 的出生证明:

  1. 拿海量文本(网页、书、代码)做训练材料
  2. 让模型反复做一件事:遮住下一个词,猜,猜错就调参数
  3. 猜了几万亿次之后,模型"背"下了人类语言里深层的规律——语法、事实、逻辑、甚至一点点推理

GPT 这个名字就是这意思:Generative(生成式)Pre-trained(预训练)Transformer。

2. 必须搞懂的 4 个概念

概念是什么直观理解
Token模型处理文字的最小单位,约 1 个汉字 ≈ 1~2 个 token模型不是按"字"读,是按 token 读,按 token 计费
参数量模型里可调节的数字个数,GPT-3 有 1750 亿粗略代表"脑容量",越大通常越聪明但越贵越慢
上下文窗口一次对话能装进模型的最大 token 数相当于"工作记忆",超过就忘(第 2 篇细讲)
温度(temperature)控制输出随机性,0 最死板,1+ 最放飞写代码调低、写文案调高

3. 关键区别:模型 ≠ 产品

这是最容易混淆的一点:

名字是什么
GPT-4 / DeepSeek / Qwen模型——一堆参数文件 + 推理程序,跑在服务器上
ChatGPT / 豆包 / 通义产品——把模型包上聊天界面、账号系统、联网搜索给你用
API租用通道——不开界面,你的程序直接调模型

所以"ChatGPT 和 DeepSeek 有什么区别"这种问题,其实混了两个层面:比的是产品体验,底层模型能力另算。

4. 怎么用:网页对话 vs API

网页对话(零门槛):打开 ChatGPT / DeepSeek 官网,打字就行——你每天都在用。

API 调用(程序员的玩法):现在几乎所有模型厂商都兼容 OpenAI 协议,这已经成了事实标准。拿到 API Key 后,任何语言几行代码就能调:

from openai import OpenAI

client = OpenAI(
    api_key="你的Key",
    base_url="https://api.deepseek.com"   # 换个地址就能换成别家模型
)

resp = client.chat.completions.create(
    model="deepseek-chat",
    messages=[
        {"role": "system", "content": "你是一个简洁的技术助手"},
        {"role": "user", "content": "用一句话解释什么是LLM"}
    ]
)
print(resp.choices[0].message.content)
# 输出:LLM 是一种在海量文本上训练、通过预测下一个词来生成内容的超大规模神经网络模型。

注意 messages 这个结构——system 定人设、user 提问、assistant 回答,这就是所有 AI 应用的地基,下一篇就讲它。

5. 它能干什么 / 不能干什么

✅ 擅长:写作、翻译、总结、解释概念、写代码、格式转换
❌ 不擅长:实时信息(训练截止后的事不知道)、你的私有资料(训练时没见过)、执行动作(只会说话,不会点按钮)、精确计算(偶尔算错还一本正经)

这四个"不擅长",正好对应后面四篇要讲的解法:上下文管理、Function Calling、RAG、Agent。

下一篇:对话到底是怎么实现的?为什么聊到一半它就把开头忘了?