新用户使用上述链接注册可免费获得 4 小时 RTX 4090 使用时长。

进入 OpenBayes 平台后,打开「公共教程」,找到「一键部署 Gemma-2-9B-Chinese-Chat」的教程。

点击「克隆」,接着点击「下一步:选择算力」。

算力选择 RTX 4090,别忘了使用链接注册哦,选择后直接点击「审核并执行」。

确认容器信息无误后,点击「继续执行」。

等待系统分配资源完成后,将鼠标悬停在「API 地址」处,点击上方链接即可进入 Demo 界面。

进入 Demo 界面后就可以和模型进行对话,可以选择一个示例进行测试。

比如我们输入「我的蓝牙耳机坏了,我该去看牙科还是耳鼻喉科」,它给我们的回答非常合理,中文理解能力非常优秀。

在 Parameters 处可以调整模型的参数:

System 中可以设计一些想要告诉模型的信息或者具体的要求;

Temperature 可以改变模型输出的随机性,Temperature 的值越大,模型的输出越随机;

Max new tokens 可以改变模型输出的 token 上限。

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐