Hugging Face Blog·· 2023-10-03精选AI 评分73
Hugging Face Tokenizers 推出 Chat Templates 功能以统一对话格式
Chat Templates: An End to the Silent Performance Killer
AI 导读
Hugging Face 宣布在 Tokenizers 中新增 chat_template 属性,利用 Jinja 模板将多轮对话结构转换为模型训练时对应的字符串格式。该功能旨在消除因对话格式不匹配造成的隐式性能劣化问题,开发者可通过 tokenizer.apply_chat_template() 统一微调和推理阶段的输入预处理。
推荐理由
原文解释了格式不匹配导致模型性能隐蔽下降的原因,开发者可以通过内置 Jinja 模板统一微调与推理时的对话格式。
来源:Hugging Face Blog · huggingface.co