前言
首先声明,这不是广告,只是提供一个思路,其它的大模型应该可以用类似的方法部署。
本文是我尝试在 Godot 中引入千帆大模型的记录,由于尚未在网络上查找到类似的教程,因此记录一下相关过程,为其他开发者提供一个简单的参考。我使用的 Godot 引擎版本为 V4.1.3,发布时间是 2023 年 12 月。下面将介绍两部分内容:千帆大模型的部署,Godot 引擎的引用方法。
千帆大模型的部署
千帆大模型的部署包括如下几个步骤。
首先进入千帆大模型,链接https://cloud.baidu.com/product/wenxinworkshop,注册后点击立即使用。
使用之前,首先需要开通服务。进入“在线服务”,选择开通的大模型服务。目前我所使用的 ERNIE-Bot 4.0 大模型公有云在线调用服务价格为 ¥0.12 元/千 tokens。开通后,进入“应用接入”,点击创建应用。
输入应用名称、应用描述,目前,系统会默认勾选全部服务。点击确定,完成创建。
回到“应用接入”部分,可以看到应用列表中已经出现创建的应用,其中 API Key 和 Secret Key 是访问大模型应用的凭证。接下来的部分,是对在线调试的简单介绍,如无兴趣,可直接跳到第二部分,查看如何在 Godot 中访问。
点击“API 文档”,可以在右侧找到 API 在线调试平台的入口。
在线调试平台的第 1 部分用于选择大模型的种类;第 2 部分用于调整模型参数;第 3 部分提供了示例代码和在线的对话测试。这里选择的大模型种类是 ERNIE BOT 4。
参数一栏中,system 参数用于设置大模型的人设,其余参数可自行查阅。
示例代码部分提供了 Python,C# 等语言的示例。根据大模型的选择、参数的配置以及对话测试的内容,示例代码会有所改变。因此,在编写代码的过程中,可以参考这里的示例代码。
Godot 引擎的引用方法
Godot 引擎访问大模型分为两步:第一步,通过 API Key 和 Secret Key 获取应用的 Access_Token
;第二步,与应用建立连接并发送请求。这个过程主要用到 HTTPRequest 节点。
首先,在 Godot 引擎中创建一个节点并添加脚本,然后为其创建两个 HTTPRequest 子节点。在这里,我创建了 Node2D 根节点,命名为 QianFan
,两个子节点分别命名为 TokenRequest
,用于接收 Access_Token
和 AnswerRequest
,建立连接。
声明变量 API Key
,Secret Key
和 Access Token
;定义 GetAccessToken()
函数,用于获取 Access Token
。
var API_KEY = 你的 API Key var SECRET_KEY = 你的 Secret Key var ACCESS_TOKEN func GetAccessToken(): var url = "https://aip.baidubce.com/oauth/2.0/token?grant_type=client_credentials&client_id=" + API_KEY + "&client_secret=" + SECRET_KEY $TokenRequest.request(url)
url 的地址可以通过查阅在线调试平台的代码示例获取。
HTTPRequest 请求收到回复后会触发信号,我们在节点中连接 TokenRequest 的信号。
信号的触发函数可以编写成如下形式,收到回复后为 ACCESS _TOKEN
赋值。至此,我们已经获得了访问大模型应用需要的 Access_Token
,它是与大模型建立连接的访问凭证。
func _on_token_request_request_completed(result, response_code, headers, body): var json = JSON.parse_string(body.get_string_from_utf8()) ACCESS_TOKEN = json['access_token']
接下来建立与大模型之间的连接,发起一次对话请求。本文章仅介绍单轮请求的方法,多轮请求和流式传输可以查阅 API 文档。
编写函数:
func GetResponose(): var url = "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/completions_pro?access_token=" + ACCESS_TOKEN var text = "请介绍一下你自己" var data = { "messages": [ { "role": "user", "content": text } ], "temperature": 0.99, "system": "你扮演一只猫娘,你的回答总是以喵~结尾" } var json = JSON.stringify(data) var headers = ['Content-Type:application/json'] $AnswerRequest.request(url,headers,HTTPClient.METHOD_POST,json)
其中 url 地址可以通过查阅 API 文档获得。data 结构体中,text 是发给大模型的文本,temperature 和 system 是上一部分所述的模型参数,可自行添加或删减。system 参数用于描述模型的人设。具体可以参考在线调试平台中的示例代码。
同样地,收到回复后会触发信号,我们在节点中连接 AnswerRequest 信号。
触发函数可以编写成如下形式,返回的 json 结构体中的 result 部分即为大模型的回答。
func _on_answer_request_request_completed(result, response_code, headers, body): var json = JSON.parse_string(body.get_string_from_utf8()) print(json['result'])
调用顺序是 GetAccessToken->收到 TokenRequest 回复->GetResponse->收到 AnswerRequest 回复
在本示例中,系统人设为“你扮演一只猫娘,你的回答总是以喵~结尾”,发送的请求为"请介绍一下你自己"。收到的回复如下:
至此,我们完成了在 Godot 中对千帆人工智能大模型的访问与调用。
总结
Godot 引擎主要通过 HTTPRequest 节点对大模型的 API 进行访问,其它大模型的引入方法应该类似,本文仅作为一个参考。
暂无关于此文章的评论。