OpenAI 如何使用停止序列?

停止序列

停止序列用于使模型在所需的点停止,例如句子或列表的结尾。通常,返回键可以很好地用作单行完成的停止序列。停止序列是一个可选设置,它告诉 API 何时停止生成令牌。完成将不包含停止序列,您最多可以传递四个停止序列。如果未传递任何内容,则默认为标记 <|endoftext|>。此标记表示文本中可能的停止点。

聊天示例:

聊天示例中,使用了三个停止序列:一个新行、值“Human:”和值“AI:”。我们的目标是只生成与当前说话者相对应的一行文本。所选择的三个停止序列创建了实现该目的所需的约束:

  • 补全不能换行。

  • 完成不能改变说话者。

  • 完成将不允许说话者连续说话两次

问答示例:

问答示例中,用换行分隔每个问答对的模式让我们相信返回键(换行)将作为我们的停止序列很好地工作。您可以在下面看到,在“ A: ”之后的完成将在一行之后停止,因为返回键用作停止序列。

P5YtnyetBetZprUCREzxqg4WvjcIjxmcyM68n9fYItagMMnSTRE2BE-6cAMcDmsKa04USSe6pDAM0Crcrgw6wcPCDxqt-AC2N3j1HjmKuYMBK6TBf-Pj6IB5o-T0FVtCtfF0m2O9

列表示例:

您还可以使用停止序列生成包含特定数量项目的列表。例如,使用“11”。作为停止序列,您可以生成一个包含 10 个项目的列表,因为完成将在“11”时停止。到达了。这在科幻提示中可以看出。

ChatGPT中国体验版点击进入https://yundongfang.com/chatgpt.php

原创文章,作者:校长,如若转载,请注明出处:https://www.yundongfang.com/Yun212311.html

(0)
打赏 微信扫一扫不于多少! 微信扫一扫不于多少! 支付宝扫一扫礼轻情意重 支付宝扫一扫礼轻情意重
上一篇 2023年2月9日
下一篇 2023年2月9日

相关推荐