百度智能云大模型兼容OpenAI的方法
·
鉴于百度智能云的文档实在太绕,故写了此文提供使用OpenAI接口格式或SDK调用百度智能云上的大模型的方法。
Step.1 安装qianfan sdk
pip install qianfan
Step.2 调用IAM生成 BearerToken
import os
from qianfan import Qianfan
from qianfan.resources.console.iam import IAM
def test_create_token():
response = IAM.create_bearer_token(
expire_in_seconds=2592000,
ak='YOU_ACCESS_KEY', sk='YOU_SECRET_KEY',
)
print(response.body['token'])
Step.3
使用OpenAI SDK 调用百度智能云或者直接发出Http 请求,本文以使用OpenAI SDK 为例
from openai import OpenAI
client = OpenAI(
api_key="第二步生成的key",
base_url="https://qianfan.baidubce.com/v2",
)
completion = client.chat.completions.create(
model="ernie-3.5-8k",
messages=[{'role': 'user', 'content': '你是谁?'}]
)
print(completion.choices[0].message.content)
效果如下所示
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐


所有评论(0)