ChatGPT 与语言模型

语言模型是怎么工作的

模型在海量文本上训练，学习预测接下来会出现哪个词（更准确地说是词元 token）。在如此庞大的规模下，从这个看似简单的目标中，竟涌现出翻译、摘要、编程和问答等能力。之后模型还会经过微调，让它更实用、也更安全。

它能做什么，又不能做什么

• 写作、翻译、摘要和编程辅助方面表现出色。
• 可能会编造出听起来言之凿凿的事实，这被称为“幻觉”。
• 如果没有联网搜索的能力，它可能不了解最新发生的事情。
• 因此重要信息还是需要另行核实。

竞赛

1. 2022ChatGPT
2. 2023GPT-4、Claude、Llama、Gemini
3. 2024模型开始实时理解图像与语音
4. 2025会“分步思考”的模型，以及 AI 智能体
5. 2026新版本以周为单位推出：9月底发布了 GPT-6.1 Sol、Claude Sonnet 5.5 和 Gemini 4 Argon

监管

欧盟于 2024 年通过了《人工智能法案》（AI Act），这是全球第一部全面的人工智能法律。相关义务正在分阶段生效，其中就包括要求标注人工智能生成的内容。