跳到正文
Hugging Face Blog·· 2023-10-03精选AI 评分73

Hugging Face Tokenizers 推出 Chat Templates 功能以统一对话格式

Chat Templates: An End to the Silent Performance Killer

AI 导读

Hugging Face 宣布在 Tokenizers 中新增 chat_template 属性,利用 Jinja 模板将多轮对话结构转换为模型训练时对应的字符串格式。该功能旨在消除因对话格式不匹配造成的隐式性能劣化问题,开发者可通过 tokenizer.apply_chat_template() 统一微调和推理阶段的输入预处理。

推荐理由

原文解释了格式不匹配导致模型性能隐蔽下降的原因,开发者可以通过内置 Jinja 模板统一微调与推理时的对话格式。

来源:Hugging Face Blog · huggingface.co