public class TestingTextGenerationRequest extends AbstractModel
skipSign
Constructor and Description |
---|
TestingTextGenerationRequest() |
TestingTextGenerationRequest(TestingTextGenerationRequest source)
NOTE: Any ambiguous key set via .set("AnyKey", "value") will be a shallow copy,
and any explicit key, i.e Foo, set via .setFoo("value") will be a deep copy.
|
Modifier and Type | Method and Description |
---|---|
Long |
getMaxInputSeqLen()
Get 输入文本的最大 tokens 数量。取值区间为(0, 1024]。默认值为256。
|
TextGenerationMessage[] |
getMessages()
Get 会话内容,按对话时间从旧到新在数组中排列。
|
String |
getModel()
Get 模型名称,当前固定为TestingModel
|
Long |
getOutputSeqLen()
Get 输出结果最大tokens数量。取值区间为(0, 1024]。默认值为768。
|
String |
getQueryId()
Get 会话id。
|
Float |
getRepetitionPenalty()
Get 重复惩罚项,该参数用于用于控制生成文本中重复内容。建议范围[1.0, 1.05]非必要不建议使用, 不合理的取值会影响效果。默认为1。
|
Float |
getTemperature()
Get 超参数temperature, 该参数用于控制生成文本中重复内容。取值区间为[0.0, 2.0], 非必要不建议使用, 不合理的取值会影响效果。默认为1.0。
|
Float |
getTopK()
Get 超参数top_k,该参数用于控制生成文本的多样性和可控性,较小的"top_k"值会限制模型的选择范围,使生成的文本更加一致和确定性。较大的"top_k"值会扩大选择范围,使生成的文本更加多样化和随机。取值区间为[1, 100],默认值 40。
|
Float |
getTopP()
Get 超参数top_p, 该参数用于控制生成文本的多样性。较小的"top_p"值会限制模型的选择范围,使生成的文本更加一致和确定性。较大的"top_p"值会扩大选择范围,使生成的文本更加多样化和随机。取值区间为[0.0, 1.0], 非必要不建议使用, 不合理的取值会影响效果。默认值为1.0。
|
void |
setMaxInputSeqLen(Long MaxInputSeqLen)
Set 输入文本的最大 tokens 数量。取值区间为(0, 1024]。默认值为256。
|
void |
setMessages(TextGenerationMessage[] Messages)
Set 会话内容,按对话时间从旧到新在数组中排列。
|
void |
setModel(String Model)
Set 模型名称,当前固定为TestingModel
|
void |
setOutputSeqLen(Long OutputSeqLen)
Set 输出结果最大tokens数量。取值区间为(0, 1024]。默认值为768。
|
void |
setQueryId(String QueryId)
Set 会话id。
|
void |
setRepetitionPenalty(Float RepetitionPenalty)
Set 重复惩罚项,该参数用于用于控制生成文本中重复内容。建议范围[1.0, 1.05]非必要不建议使用, 不合理的取值会影响效果。默认为1。
|
void |
setTemperature(Float Temperature)
Set 超参数temperature, 该参数用于控制生成文本中重复内容。取值区间为[0.0, 2.0], 非必要不建议使用, 不合理的取值会影响效果。默认为1.0。
|
void |
setTopK(Float TopK)
Set 超参数top_k,该参数用于控制生成文本的多样性和可控性,较小的"top_k"值会限制模型的选择范围,使生成的文本更加一致和确定性。较大的"top_k"值会扩大选择范围,使生成的文本更加多样化和随机。取值区间为[1, 100],默认值 40。
|
void |
setTopP(Float TopP)
Set 超参数top_p, 该参数用于控制生成文本的多样性。较小的"top_p"值会限制模型的选择范围,使生成的文本更加一致和确定性。较大的"top_p"值会扩大选择范围,使生成的文本更加多样化和随机。取值区间为[0.0, 1.0], 非必要不建议使用, 不合理的取值会影响效果。默认值为1.0。
|
void |
toMap(HashMap<String,String> map,
String prefix)
Internal implementation, normal users should not use it.
|
any, fromJsonString, getBinaryParams, getMultipartRequestParams, getSkipSign, set, setParamArrayObj, setParamArraySimple, setParamObj, setParamSimple, setSkipSign, toJsonString
public TestingTextGenerationRequest()
public TestingTextGenerationRequest(TestingTextGenerationRequest source)
public TextGenerationMessage[] getMessages()
public void setMessages(TextGenerationMessage[] Messages)
Messages
- 会话内容,按对话时间从旧到新在数组中排列。public String getModel()
public void setModel(String Model)
Model
- 模型名称,当前固定为TestingModelpublic String getQueryId()
public void setQueryId(String QueryId)
QueryId
- 会话id。public Float getTemperature()
public void setTemperature(Float Temperature)
Temperature
- 超参数temperature, 该参数用于控制生成文本中重复内容。取值区间为[0.0, 2.0], 非必要不建议使用, 不合理的取值会影响效果。默认为1.0。public Float getTopP()
public void setTopP(Float TopP)
TopP
- 超参数top_p, 该参数用于控制生成文本的多样性。较小的"top_p"值会限制模型的选择范围,使生成的文本更加一致和确定性。较大的"top_p"值会扩大选择范围,使生成的文本更加多样化和随机。取值区间为[0.0, 1.0], 非必要不建议使用, 不合理的取值会影响效果。默认值为1.0。public Float getTopK()
public void setTopK(Float TopK)
TopK
- 超参数top_k,该参数用于控制生成文本的多样性和可控性,较小的"top_k"值会限制模型的选择范围,使生成的文本更加一致和确定性。较大的"top_k"值会扩大选择范围,使生成的文本更加多样化和随机。取值区间为[1, 100],默认值 40。public Float getRepetitionPenalty()
public void setRepetitionPenalty(Float RepetitionPenalty)
RepetitionPenalty
- 重复惩罚项,该参数用于用于控制生成文本中重复内容。建议范围[1.0, 1.05]非必要不建议使用, 不合理的取值会影响效果。默认为1。public Long getOutputSeqLen()
public void setOutputSeqLen(Long OutputSeqLen)
OutputSeqLen
- 输出结果最大tokens数量。取值区间为(0, 1024]。默认值为768。public Long getMaxInputSeqLen()
public void setMaxInputSeqLen(Long MaxInputSeqLen)
MaxInputSeqLen
- 输入文本的最大 tokens 数量。取值区间为(0, 1024]。默认值为256。Copyright © 2023. All rights reserved.