吴恩达AI课程笔记:面向开发人员的 ChatGPT 提示词工程(7)扩写
7、扩写

扩写是采用较短的文本,例如一组说明或主题列表,并让大语言模型生成较长的文本,例如电子邮件或关于某个主题的文章。 这是一个非常实用的功能,比如如果你使用大语言模型作为头脑风暴的伙伴。 担这有一些有问题的用例,例如如果有人使用它,他们会产生大量垃圾邮件。 所以,当你使用大语言模型的这些能力时,请以负责任的方式使用它。
在本课程中,我们将通过一个示例介绍如何使用语言模型根据某些信息生成个性化电子邮件。我们还将使用模型的另一个输入参数,称为“温度”,这种类型允许您改变探索程度和模型响应类型的多样性。
现在我们要为客户评论编写自定义电子邮件回复。根据客户评论和情绪,我们将生成自定义回复。 下面是是客户对搅拌机的评论。

现在我们要根据情绪自定义回复。 所以这里的指令是“你是一个客户服务 AI 助手。你的任务是向一位重要的客户发送一封电子邮件回复。生成回复以感谢客户的评论。 如果情绪是积极的或中立的,感谢他们的评论。如果情绪是消极的,道歉并建议他们可以联系客户服务。确保使用评论中的具体细节,以简洁专业的语气撰写并 将电子邮件签名为“AI 客户代理””。

当您使用语言模型生成要向用户显示的文本时,具有这种透明度并让用户知道他们看到的文本是由 AI 生成的,这一点非常重要。下面的结果我们已经从评论中提取了情绪。 因此,在这里我们有对客户的回应。 它解决了客户在评论中提到的细节。 就像我们指示的那样,建议他们联系客户服务,因为这只是一个 AI 客户服务代理。

接下来,我们将使用为“温度”的语言模型参数,它允许我们更改模型响应的种类。您可以将温度视为模型的探索程度或随机性。对于这个特定的短语,“我最喜欢的食物是”,模型预测的最有可能的下一个词是“披萨”,它建议的最有可能的下一个词是“寿司”和“炸玉米饼”。 所以在零温度下,模型总是会选择最有可能的下一个词,在这种情况下是“披萨”,而在更高的温度下,它也会选择一个不太可能的词,它甚至可能会选择“炸玉米饼”。

随着这种模式的继续,这两种反应将变得越来越不同。 一般来说,在构建需要可预测响应的应用程序时,我建议使用零温度。 在所有这些课程中,我们一直在使用零温度,我认为如果你想构建一个可靠且可预测的系统,你应该使用它。 如果您尝试以更有创意的方式使用该模型,您可能需要更多种类的不同输出,您可能需要使用更高的温度。
所以现在让我们采用我们刚刚使用的相同提示,并尝试生成一封电子邮件,但让我们使用更高的温度。

因此,当温度为零时,每次执行相同的提示时,您都应该期待相同的完成。 而温度为 0.7 时,每次都会得到不同的输出。 所以这里有我们的电子邮件,如您所见,它与我们之前收到的电子邮件不同。 让我们再次执行它以表明我们将再次收到不同电子邮件。

总而言之,在更高的温度下,模型的输出更加随机。你几乎可以认为它是因为在更高的温度下,更容易分心,但可能更有创造力。