书: https://pan.baidu.com/s/1XqKbodMZYD_Bu2f_E1ghxw?pwd=y5p9
笔记如下：
- “GPT-4不再只是一个聊天机器人，而是一个可以集成到各种应用中的通用推理引擎。”
- “Prompt设计是开发大模型应用的核心技能，好的提示词抵得上千行代码。”
- “温度参数（temperature）控制着模型输出的创造性，0.7通常是平衡点。”
- “通过System Message可以预设AI助手的角色和行为模式。”
- “Few-shot learning（少样本学习）能让模型快速适应新任务。”
- “Chat Completion API的messages参数包含system/user/assistant三种角色消息。”
- “大模型应用开发的关键在于：将复杂问题分解为模型能理解的步骤。”
- “Function Calling功能让大模型可以触发外部工具和API。”
- “Token是GPT模型的计价单位，英文1token≈4字符，中文1token≈1.5字。”
- “RAG（检索增强生成）技术能显著提升模型的事实准确性。”
- “思维链（Chain-of-Thought）提示可以显著提升复杂问题的解决能力。”
- “大模型的’幻觉’（hallucination）问题需要通过约束和验证来解决。”
- “Embedding技术让文本有了数学表达形式，开启了语义搜索新时代。”
- “通过logit_bias参数可以控制特定词汇的出现概率。”
- “大模型应用开发遵循’原型快、迭代快、部署快’的三快原则。”
- “对话历史管理是构建连贯聊天应用的关键技术。”
- “GPT-4的128k上下文窗口允许处理整本书长度的内容。”
- “微调（fine-tuning）适用于特定领域，但提示工程通常更经济。”
- “安全防护需要同时考虑提示注入和输出过滤两个维度。”
- “大模型正在将自然语言变成最通用的编程语言。”