cloudflare有一个免费的ai,其实就是一个内置的大模型加一个cf worker来实现的,其实,每用一次,就占用cf worker的次数,但因为我们有免费的额度,因此就会感觉这是免费的
那么,怎么用呢
首先,去激活,这个不难,在控制台选中ai- 》worker ai 就行
然后,获取密钥,密钥要记录下来
cf提供一些大模型,不过没有openai,只有llama之类的(当然还有qwen)
根据以下的案例就可以用自己的ai了
API_TOKEN = "api密钥"
API_BASE_URL = "https://api.cloudflare.com/client/v4/accounts/你的用户id/ai/run/"
headers = {"Authorization": f"Bearer {API_TOKEN}"}
def chat_completions3(query):
inputs = [
{"role": "system", "content": "You are a helpful assistant. Provide answers in Markdown format with LaTeX for math formulas.为我回答问题用俄语.在回答的过程中,请使用markdown"},
{"role": "user", "content": f"{query}"}
]
input = {"messages": inputs}
response = requests.post(f"{API_BASE_URL}@cf/meta/llama-3-8b-instruct", headers=headers, json=input)
data = response.json()
# 创建一个 Word 文档
print(data)
chat_completions3("Материя. Информация. Мера. Их триединство. Привести примеры. Почему деньги – это информация?")
这样,就可以用你的免费ai了