类 Llm.ChatOptions
java.lang.Object
dev.tinyflow.core.llm.Llm.ChatOptions
- 所有已实现的接口:
Serializable
- 封闭接口:
- Llm
ChatOptions类用于配置聊天模型的参数选项
实现了Serializable接口,支持序列化
- 另请参阅:
-
字段概要
字段 -
构造器概要
构造器 -
方法概要
修饰符和类型方法说明获取最大令牌数getSeed()获取随机种子值getStop()获取停止词列表获取温度参数getTopK()获取Top-K参数getTopP()获取Top-P参数voidsetMaxTokens(Integer maxTokens) 设置最大令牌数void设置随机种子值void设置停止词列表voidsetTemperature(Float temperature) 设置温度参数void设置Top-K参数void设置Top-P参数
-
字段详细资料
-
seed
-
temperature
-
topP
-
topK
-
maxTokens
-
stop
-
-
构造器详细资料
-
ChatOptions
public ChatOptions()
-
-
方法详细资料
-
getSeed
获取随机种子值- 返回:
- 返回随机种子字符串,用于控制生成结果的随机性
-
setSeed
设置随机种子值- 参数:
seed- 随机种子字符串,用于控制生成结果的随机性
-
getTemperature
获取温度参数- 返回:
- 返回温度值,控制生成文本的随机性,值越高越随机
-
setTemperature
设置温度参数- 参数:
temperature- 温度值,控制生成文本的随机性,值越高越随机
-
getTopP
获取Top-P参数- 返回:
- 返回Top-P值,用于 nucleus sampling,控制生成词汇的概率阈值
-
setTopP
设置Top-P参数- 参数:
topP- Top-P值,用于 nucleus sampling,控制生成词汇的概率阈值
-
getTopK
获取Top-K参数- 返回:
- 返回Top-K值,限制每步选择词汇的范围
-
setTopK
设置Top-K参数- 参数:
topK- Top-K值,限制每步选择词汇的范围
-
getMaxTokens
获取最大令牌数- 返回:
- 返回最大令牌数,限制生成文本的最大长度
-
setMaxTokens
设置最大令牌数- 参数:
maxTokens- 最大令牌数,限制生成文本的最大长度
-
getStop
获取停止词列表- 返回:
- 返回停止词字符串列表,当生成文本遇到这些词时会停止生成
-
setStop
设置停止词列表- 参数:
stop- 停止词字符串列表,当生成文本遇到这些词时会停止生成
-