关于deepseek,千问qwq32B等大模型没有开始<think>问题的解决方案!
【代码】关于deepseek,千问qwq32B等大模型没有开始<think>问题的解决方案!
·
修改下载的大模型文件 tokenizer_config.json 中 把 think 去掉 就可以了 如下:
{%- if add_generation_prompt %}
{{- '<|im_start|>assistant
' }}
{%- endif %}

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐



所有评论(0)