LLaMA-Factory/data/README_zh.md
Peter Pan 23443e9696 add rm dataset explanation
Signed-off-by: Peter Pan <Peter.Pan@daocloud.io>

Former-commit-id: b0ca8fe634c35073bb156447ff45c5a8eb54aca1
2023-08-22 01:33:59 -04:00

1.4 KiB
Raw Blame History

如果您使用自定义数据集,请务必在 dataset_info.json 文件中以如下格式提供您的数据集定义。

"数据集名称": {
  "hf_hub_url": "HuggingFace上的项目地址若指定则忽略下列三个参数",
  "script_url": "包含数据加载脚本的本地文件夹名称(若指定,则忽略下列两个参数)",
  "file_name": "该目录下数据集文件的名称(若上述参数未指定,则此项必需)",
  "file_sha1": "数据集文件的SHA-1哈希值可选",
  "columns": {
    "prompt": "数据集代表提示词的表头名称默认instruction",
    "query": "数据集代表请求的表头名称默认input",
    "response": "数据集代表回答的表头名称默认output",
    "history": "数据集代表历史对话的表头名称默认None"
  }
}

其中 promptresponse 列应当是非空的字符串。query 列的内容将会和 prompt 列拼接作为模型输入。history 列应当是一个列表,其中每个元素是一个字符串二元组,分别代表用户请求和模型答复。

对于奖励模型(rm)的数据集头N个输出表示chosen的数据后N个输出表示rejected的数据,例如:

{
    "instruction": "Question?",
    "input": "",
    "output": [
       "chosen answer",
       "rejected answer"
    ]
}