ChatGPT 辅助学习与建议

章节介绍

分享不同方向的学员该如何学习这门课程与学习建议，掌握课程内提供的Prompt相关使用技巧（出错答疑提示词、代码生成提示词、测试单元生成提示词等），同时讲解OpenAI秘钥注册与国内替代品、Playground介绍与最大化利用等核心内容。

一、不同方向的学员如何学习这门课程与建议

01. 课程路线与功能开发流程

1.1 课程路线

课程以LLMOps（AI应用编排平台） 为学习路线，在为聊天机器人添加功能的过程中，掌握AI应用开发工程师必学技能，涵盖：Prompt工程、LLM&评测对接、向量数据库、RAG、Agent、多模态输出、LLM工作流开发、AI应用部署与优化、LLM预训练/微调/部署等。

1.2 功能开发流程

• 课程目标：培养拥有1~3年经验的AI/LLM应用开发工程师，课程时长约120小时。
• 章节划分：按阶段-周次-章节划分，相同独立知识点凝练至同一章节，几乎所有章节可独立学习，项目代码按章节打包，各阶段配备测试题目校验学习进度，支持Git+慕课单独下载代码、课件、电子书。
• 部分章节示例：

  名称	修改日期	类型
  第1章 后端Python环境搭建与项目配置	2024/5/29 9:17	文件夹
  第2章实现第一个GPT聊天机器人	2024/5/29 9:17	文件夹
  第3章LangChain初入门-简化LLM开发难度	2024/5/29 9:17	文件夹

• 企业级开发流程：从AI/LLM应用产品经理、开发工程师、前端工程师角度，完整学习需求实现全流程： 需求演示→需求分析→LLM应用产品点&分析→定义需求→技术理解→产品设计→后端逻辑/实体开发→LLM应用后开发→产品需求与后端对接→接口开发与文档编写→向量数据库与RAG→LLM应用需求拆解与开发→上线反馈； 同时涵盖功能开发、接口开发、Agent原理&LLM预训练&微调，以及前端UI界面与接口对接、结构开发（Vuejs编码）、逻辑开发、样式开发、AI Agent应用新交互对接等前端开发环节。

02. 不同方向的学员学习建议

2.1 大学生/应届毕业生

• 学习重点：基础理论知识学习+实践操作，通过项目驱动学习，在开发LLMOps AI应用编排平台中掌握AI应用开发理论，熟悉AI应用工程师面试八股文，拿下大厂Offer。
• 关键词：基础理论、实践操作、面试题、Python编程基础、高质量Prompt。

2.2 跳槽涨薪/技术转型

• 学习重点：实践操作+项目案例分析，以LLMOps AI应用编排平台开发为跳板，深入分析项目设计思路、技术挑战、解决方案、LangChain源码及原理等，实现独立开发复杂AI应用或现有应用AI接入。
• 关键词：基础理论、项目开发经验、AI应用开发的常见解决方案、RAG、搜索重排、超长上下文处理方案、LangChain&源码原理、LLM评测/预训练/微调/部署。

2.3 在职提升者

• 学习重点：掌握高质量Prompt提示词编写，优化现有工作流程，将所学与本职业务结合，以实际成效为学习反馈，紧跟市场需求。
• 关键词：高质量Prompt、AI应用开发常见解决方案、LangChain&源码原理、制作轮子。

二、ChatGPT辅助学习与课程提示词

01. ChatGPT 界面与提问技巧

1. 模型使用说明
   • GPT-3.5：无需注册登录即可免费使用，无对话记录保留；
   • GPT-4o：注册登录后免费用户可使用，限制为3小时10条，支持上传图片、联网，对自然语言理解能力更强，为默认首推模型。
2. ChatGPT核心界面：GPT切换大语言模型、创建新对话、GPTs、对话界面窗口、历史对话记录、对话输入框（GPT-4o支持图片上传）。
3. 优质Prompt的8个特征
   • 明确问题：避免泛化提问，精准界定问题范围和细节；
   • 提供背景：补充自身已知的上下文，让回答更精准；
   • 限定范围：明确版本、输出长度、语言、地区等要求；
   • 拆分问题：复杂问题分步骤提问，逐步获取答案；
   • 指出建议：反馈回答的不足（不详细、出错、缺漏等），优化回复效果；
   • 提供示例：附加示例数据/代码/文本，提升Prompt有效性；
   • 多样提问：要求按不同格式（步骤、代码、开放式）回复，多角度获取答案；
   • 多试几次：单次回复效果不佳时，让模型重复输出，或修改Prompt重新提问。

02. 课程提供的提示词

1. 提示词覆盖范围：代码生成、Python后端错误排除、Vue.js前端代码生成&排除、Prompt优化、LLM应用产品经理需求理解、UI图片理解（前端工程师）等。
2. 提示词配套内容：每段提示词均提供前置提示词、使用示例、AI生成示例，需GPT-4o/GPT-4V版本的会单独标记。
3. Prompt示例（LLMOps接口项目后端开发）
   • 角色：拥有10年Python应用经验的工程师，使用Flask、Flask-Login、FlaskSQLAlchemy、PostgreSQL、JWT、Flask-Migrate、wtforms、Flask-WTF、Celery开发“LLMOps接口”后端API项目。
   • 技能
     1. Flask框架使用：处理Flask各类实际场景和常见问题；
     2. Flask-Login/Flask-SQLAlchemy/PostgresQL：解决用户验证、数据库模型设计/实现、数据存储等问题，精通SQL；
     3. JWT/Flask-Migrate/wtforms/Flask-WTF/Celery：解答API认证、数据迁移、表单验证、异步任务处理问题。
   • 限制
     1. 仅处理与“LLMOps接口”项目相关的问题；
     2. 按问题/错误提供解决方案，保证答案准确性；
     3. 解答时必须用代码示例讲解步骤和原理；
     4. 未知问题引导用户补充信息。
   • 回应格式
     • 问题/错误描述：<用户描述>
     • 提供的解决方案：<解决方案>
     • 具体操作步骤：<详细讲解+代码示例>
   • 使用示例：怎么在项目中实现流式事件响应？
   • AI生成示例：采用Flask Server-Sent Events (SSE)实现，包含安装Flask-SSE扩展、配置Flask应用、编写SSE视图函数、前端JavaScript监听SSE、Celery后台任务推送事件等步骤，并附带完整代码示例。

三、OpenAI&月之暗面 API秘钥获取与参数详解

01. OpenAI手机号校验

1. API使用前提：ChatGPT可免手机号注册，但OpenAI API需绑定国外手机号才能创建秘钥，国内用户/企业有四种解决方案：
   • 注册OpenAI账号+渠道校验国外手机号+绑定国外银行卡；
   • 使用第三方中转API接口；
   • 采用Azure OpenAI秘钥（企业首选，支持国内企业账号+国内银行卡）；
   • 使用OpenAI替代品（如MoonShot月之暗面）。
2. 个人开发者优选：注册OpenAI账号+校验国外手机号，或使用MoonShot；校验通过后赠送5美金API使用额度。
3. sms-activate国外短信校验平台
   • 功能：生成/接收验证码，用于海外平台验证；
   • 优势：仅需邮箱注册，支持国内支付宝支付；
   • 官网：https://sms-activate.org/cn；
   • OpenAI开放平台：https://platform.openai.com。

02. OpenAI 大语言模型参数详解

2.1 请求参数详解（Chat Completion接口）

参数文档链接：https://platform.openai.com/docs/api-reference/chat

参数	是否必填	说明
messages	是	包含消息历史记录的列表
model	是	模型名称，常见gpt-3.5-turbo、gpt-4
frequency_penalty	否	频率惩罚，控制内容重复性，取值-2~2，值越高越避免重复
logit_bias	否	字典，key为词汇Token ID，值为偏差（-100~100），鼓励/抑制特定词汇生成
logprobs	否	是否返回输出标记的概率，为真时返回每个token概率
max_tokens	否	指定生成文本最大长度（按token计算），默认/最大值依模型而定
n	否	指定生成响应数量，默认1
presence_penalty	否	存在惩罚，控制内容多样性，取值-2~2，值越高越倾向新主题
response_format	否	响应格式，字典类型，支持普通文本、json格式
seed	否	随机种子（整数，测试阶段），相同种子+参数尽量保证结果一致，不确保确定性
stream	否	布尔值，是否启用流式响应，true时API逐步返回消息
stream_options	否	流式响应配置，stream=true时可返回token使用计数
temperature	否	温度，控制生成随机性，取值0~2，值越高越随机，默认1
top_p	否	核采样，取值0~1，取生成概率最高的前p%词汇，与temperature配合控制多样性，默认1
tools	否	模型可调用的工具列表，仅支持函数，最多128个，生成JSON输入
tool_choice	否	控制工具调用：none（不调用）、auto（自主选择）、required（必须调用），可指定具体函数
user	否	终端用户标识，用于OpenAI监控/检测滥用行为

• 请求示例：以调用天气查询函数为例，包含model、messages、tools、tool_choice等参数配置。

2.2 响应参数详解

OpenAI响应分整体响应（一次性返回）和流式响应（逐步返回），结构相近，参数如下：

参数	说明
id	每次响应的唯一ID
choices	数组字典，存储生成内容，包含以下子参数： - finish_reason：模型停止生成token的原因（stop/length/content_filter/tool_calls） - index：多消息生成时的索引 - message：模型生成的消息（含content、tool_calls、role等字段） - logprobs：token生成概率（请求时设置logprobs才返回）
created	生成记录的时间戳（秒）
model	使用的模型名称
system_fingerprint	系统指纹，代表模型后端配置，与seed结合查看后端更改
object	对象类型，固定为chat.completion
usage	token使用统计，包含prompt_tokens、completion_tokens、total_tokens

• 响应示例：包含id、object、created、model、system_fingerprint、choices、usage等完整参数配置。

03. 月之暗面（MoonShot）的注册与使用

1. 核心优势：国内唯一可不修改代码，仅修改秘钥+API接口，直接使用OpenAI SDK的大语言模型，参数与OpenAI几乎一致，完美适配课程。
2. 解决的问题：国内访问OpenAI接口需境外/中转服务器，响应速度慢，MoonShot可替代使用。
3. 官网：https://www.moonshot.cn/

四、Playground 快速调试Prompt与接口参数

01. 开放平台界面整体介绍

1. 管理单位：新版OpenAI开放平台以项目为单位管理，无需写代码即可使用Playground、API、助手、微调、批处理、数据存储、秘钥、账号使用详情等功能。
2. 左侧菜单：Playground、API助手、微调、接口批处理、数据存储、项目使用详情、秘钥。
3. 最佳实践：OpenAI官方秘钥建议创建独立项目，在项目内生成API秘钥，实现秘钥权限控制、使用情况查看，项目间功能独立。

02. OpenAI Playground简介

1. 定位：为开发者、研究人员、AI爱好者设计的可视化平台，无需代码即可探索大语言模型及AI应用，是LLM/AI Agent开发的沙盒工具，可在正式开发前测试运行流程。
2. 支持调试的3种应用模式

   2.1 Chat（聊天机器人）

   最基础的LLM应用，以消息列表为对话形式，支持对话编排，使用Chat模型。

   2.2 AI Assistants（助手）

   用于调试基础AI Agent应用，基于Chat模型，以消息列表进行对话。

   2.3 Completions（文本补全）

   OpenAI遗留功能，直接在Prompt后生成内容，非消息列表形式；仅更新至gpt-3.5-turbo-instruct版本，不支持多模态输入、函数回调，已逐步淘汰。
3. 可调节参数：温度、最大Token输出数、停止词、top_p、存在惩罚、频率惩罚等；Assistants模式还支持添加工具（文件搜索、知识库、代码解释器）、自定义函数回调。

03. Playground 编排（以AI Agent为例）

通过Playground Assistants模拟AI Agent应用功能，涵盖预设系统提示词、模型与配置、知识库、自定义工具，以下为IP查询+天气查询Agent编排示例：

1. 系统提示词：你是OpenAI开发的聊天机器人，可以帮助用户解决特定的问题。
2. 自定义工具（3个函数）
   • get_current_weather：获取给定位置的当前天气，参数为location（省份城市，必填）、unit（温度单位，celsius/fahrenheit）；
   • get_ip_location：传入IP获取所在位置，参数为ip（标准IP，必填）；
   • calculate：计算数学表达式，参数为expression（数学表达式，必填）。
3. 用户对话输入：请帮我看下114.154.124.24这个ip所在城市的天气预报
4. Assistants完整执行流程
   1. 调用get_ip_location("114.154.124.24")，输出结果：广东省广州市；
   2. 组装提示词，调用get_current_weather("广东省广州市")，输出结果：广州气温35℃，天气高温暴雨，注意防暑；
   3. 整合所有工具结果，生成最终回复：根据IP地址114.154.124.24查询到的位置是广东省广州市。当前天气预报显示，广州市的气温为35.6度，降雨量较大。请注意天气变化，做好防雨措施。