如何使用Prompt工程指南进行模型设置
时间:2023-05-25 阅读:1022
如何使用Prompt工程指南进行模型设置
在使用提示词时,您可以通过API或直接与大型语言模型进行交互。您可以通过配置某些参数来获得不同的提示结果。
温度(Temperature):简单来说,温度参数值越小,模型就会返回一个更确定的结果。如果将该参数值调高,则大型语言模型可能会返回更随机的结果。因此,可能会带来更多样化或更具创造性的产出。我们目前也在增加其他可能标记的权重。在实际应用方面,对于需要质量保障(QA)等任务,我们可以将温度值设置低一些,以促使模型基于事实返回更真实和简洁的结果。对于诗歌生成或其他创造性任务,您可以适当提高温度参数值。
Top_p(Top_p):同样,使用Top_p(与温度一起称为核采样的技术),可以用来控制模型返回结果的真实性。如果您需要准确和事实的答案,则可以将该参数值调低。如果想要更多样化的答案,则可以将参数值调高一些。
一般建议只改变其中一个参数。我们在介绍一些基础示例之前,请注意生成的结果可能会根据所使用的大型语言模型版本而异。