书接上文 【AI大模型应用开发】1.0 Prompt Engineering(提示词工程)- 典型构成、原则与技巧,代码中加入Prompt,我们开始实战。

文章目录
    • 0. 从最简单的开始
      • 0.1 通用代码封装
      • 0.2 使用 - 从最简单的Prompt开始
        • 0.2.1 temperature参数测试
        • 0.2.2 加上System Prompt
    • 1. 迭代优化Prompt
      • 1.1 提供清晰和具体的指令
        • 1.1.1 使用分隔符指示输入的不同部分
        • 1.1.2 让模型充当某个角色
          • 1.1.2.1 为什么给大模型定义角色就能得到更好的结果?
        • 1.1.3 告诉大模型我是谁 AND 给模型时间思考
        • 1.1.4 输出内容约束
    • 2. Prompt优化方法论(进阶技巧)
      • 2.1 进阶技巧汇总
      • 2.2 实战举例 - 少样本提示
    • 3. 加一句Prompt,让你的Prompt效果翻倍

0. 从最简单的开始

0.1 通用代码封装

修改下我们上篇文章中的代码,将Prompt封装起来

from openai import OpenAI
# 加载 .env 到环境变量
from dotenv import load_dotenv, find_dotenv
_ = load_dotenv(find_dotenv())

client = OpenAI()

###### 这里封装成函数 #######
def get_openai_chat_completion(messages, temperature, model = "gpt-3.5-turbo-1106"):
    response = client.chat.completions.create(
        model = model,
        messages = messages,
        temperature = temperature,
    )
    return response.choices[0].message.content


0.2 使用 - 从最简单的Prompt开始
if __name__ == "__main__":
    messages = [
        {
            "role": "user",
            "content": "你是谁?",
        }
    ]
    print(get_openai_chat_completion(messages, 0.8))

  • 回复(执行3次,3次回复均不同)
    在这里插入图片描述
0.2.1 temperature参数测试
  • 更改temperature值为0,回复(执行3次,3次回复均相同)
    在这里插入图片描述

temperature可以改变答案生成的随机性,约小,答案越固定。建议不要超过1。

0.2.2 加上System Prompt

前文我们知道prompt有三种角色:

  • system:系统指令,最重要,用于初始化GPT行为,以及规定GPT的角色、背景和后续行为模式。system是主提示,可以进行更加详细的设置。
  • user: 用户输入的信息。
  • assistant: 机器回复,由 API 根据 system 和 user 消息自动生成的。

assistant prompt通常由大模型回复生成,不需要自己设定。下面我们来加上System Prompt。

SYSTEM_PROMPT = """
你是一个Prompt优化器, 你叫同学小张,用户会给你一个提示,你根据用户给的提示,来将提示优化成更适合大模型的Prompt。
"""

if __name__ == "__main__":
    while True:
        user_input = input("请输入你的提示:")
        
        messages = [
            {
                "role": "system",
                "content": SYSTEM_PROMPT,
            },
            {
                "role": "user",
                "content": user_input,
            }   
        ]
        print(get_openai_chat_completion(messages, 0.5))

上面我们增加了System Prompt,给其指定了任务:帮助用户优化Prompt,并且名字叫【同学小张】。来看下它的回复:
在这里插入图片描述
可以看到System已经生效了,它充当了Prompt优化工具。虽然效果欠佳,但是是一个好的开始。下面我们将上篇文章总结的Prompt原则和技巧加进来,逐步迭代优化我们的这个Prompt。

1. 迭代优化Prompt

先把我们总结的Prompt典型构成和原则与技巧放进来:
在这里插入图片描述

1.1 提供清晰和具体的指令
1.1.1 使用分隔符指示输入的不同部分

不知道大家有没有发现,前面它回答名字出错了,它应该回答叫【同学小张】,但是它回答的却是【小张】。

  • 优化:将名字用分隔符隔出来,例如“”双引号。
SYSTEM_PROMPT = """
你是一个Prompt优化器, 你叫“同学小张”,用户会给你一个提示,你根据用户给的提示,来将提示优化成更适合大模型的Prompt。
"""

  • 看下效果还不错:

在这里插入图片描述

为了能更清晰的看出优化前后结果的好坏,下面我换了一个“规划学习大纲”的Prompt,优化空间更大。

  • 原始Prompt
SYSTEM_PROMPT = """
你叫“同学小张”,用户会给你一个提示,你根据用户给的提示,来为用户设计关于此课程的学习大纲。
"""

  • 原始结果

在这里插入图片描述

1.1.2 让模型充当某个角色

以上的结果虽然看起来像那么回事儿,但是仔细看来,更像是学一门知识的步骤,而不太像教程大纲。下面我们给Prompt加上角色。

SYSTEM_PROMPT = """
你是一名资深教师,你叫“同学小张”,用户会给你一个提示,你根据用户给的提示,来为用户设计关于此课程的学习大纲。
"""

结果明显更像是一个学习大纲,更成体系了。
在这里插入图片描述

1.1.2.1 为什么给大模型定义角色就能得到更好的结果?

有一篇论文研究表明:大模型对 prompt 开头和结尾的内容更敏感。
在这里插入图片描述
先定义角色,其实就是把大模型回复的问题域收窄,减少二义性,意思更清晰了。

1.1.3 告诉大模型我是谁 AND 给模型时间思考

如果我们已经学会了Python,不想让大模型给我们规划的大纲中包含这部分,我们可以作如下优化:

  • 在System Prompt中给模型时间思考,确保它理解了你想学的东西,这样可以减少幻觉。
SYSTEM_PROMPT = """
你是一名资深教师,你叫“同学小张”,用户会给你一个提示,你根据用户给的提示,来为用户设计关于此课程的学习大纲。
你必须遵循以下原则:
1. 你有足够的时间思考,确保在得出答案之前,你已经足够理解用户需求中的所有关键概念,并给出关键概念的解释。
"""

  • 用户输入中加入“我已经学会了Python语言”,告诉大模型我是谁
我想学习Prompt,我已经学会了Python语言

结果如下,可以看到大纲中已经没有了Python的基础部分。
在这里插入图片描述

1.1.4 输出内容约束

指定输出格式为MarkDown格式,并要求至少是10小节的大纲

SYSTEM_PROMPT = """
你是一名资深教师,你叫“同学小张”,用户会给你一个提示,你根据用户给的提示,来为用户设计关于此课程的学习大纲。
你必须遵循以下原则:
1. 你有足够的时间思考,确保在得出答案之前,你已经足够理解用户需求中的所有关键概念,并给出关键概念的解释。
2. 输出格式请使用Markdown格式,并保证输出内容清晰易懂。
3. 至少输出10小节的内容
"""

结果如下(没截全,确实是10小节)。
在这里插入图片描述
但是每小节内容有点不规范,于是再次优化:

SYSTEM_PROMPT = """
你是一名资深教师,你叫“同学小张”,用户会给你一个提示,你根据用户给的提示,来为用户设计关于此课程的学习大纲。
你必须遵循以下原则:
1. 你有足够的时间思考,确保在得出答案之前,你已经足够理解用户需求中的所有关键概念,并给出关键概念的解释。
2. 输出格式请使用Markdown格式,并保证输出内容清晰易懂。
3. 至少输出10章的内容,每章至少有5个小节
"""

要求它输出至少10章内容,每章至少5小节,结果如下(越来越像样子了):
在这里插入图片描述
好了,篇幅所限,迭代优化演示就到这里了,Prompt就是这样从最简单的开始,一步一步优化成可以满足自己要求的。还是那句话,一定不要只看网上的教程和吹的很牛的Prompt,一定要下场实操,才能对怎么写出优秀的Prompt有一个深刻的理解。

2. Prompt优化方法论(进阶技巧)

2.1 进阶技巧汇总

在这里插入图片描述

2.2 实战举例 - 少样本提示

这里我拿之前我通过Prompt让ChatGPT帮我写代码的例子来看:
在这里插入图片描述
这是一个很直观的例子,如果你不告诉它文件里数据的结构,不举个例子告诉它哪些是x坐标,哪些是y坐标,它肯定不会得到正确的结果。

其余的进阶技巧就不一一实战和演示了,没有具体的需求,没碰到具体的事儿,确实不好找例子来演示。等以后遇到了再补上吧。目前先有个大体认识,知道有这么个方法论,以后遇到难题能作为一种解决思路吧。
意犹未尽的同学可以参考这篇文章:提示工程指南,里面总结的很详细。

3. 加一句Prompt,让你的Prompt效果翻倍

本文最后,给大家搜集了几个常用咒语,加上它,大概率让你的Prompt效果翻倍。

  1. Let’s think step by step(让我们一步一步思考)- 其实就是上文中的思维链
  2. Please provide a detailed explanation(请提供详细解释)
  3. Can you break it down into simpler terms?(你能用更简单的术语解释吗?)
  4. Please list the pros and cons(请列出优缺点)
  5. Can you provide a step-by-step guide?(你能提供一步一步的指导吗?)

从今天开始,持续学习,开始搞事情。踩坑不易,欢迎关注我,围观我!
本站文章一览:
在这里插入图片描述

零基础入门AI大模型

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

需要的可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

在这里插入图片描述

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

在这里插入图片描述

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

这份完整版的学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐