使用Gradio、讯飞星火大模型搭建聊天机器人

查看 65|回复 6
作者:长空牧雁   
一、获取讯飞星火大模型的APPID、APISecret、APIKey,模型我用的是免费的Spark Lite,其他收费的模型同理
二、安装gradio 一句命令搞定 pip install gradio
chat.py代码如下:
[Python] 纯文本查看 复制代码from sparkai.llm.llm import ChatSparkLLM, ChunkPrintHandler
from sparkai.core.messages import ChatMessage
import gradio as gr
#星火认知大模型Spark3.5 Max的URL值,其他版本大模型URL值请前往文档(https://www.xfyun.cn/doc/spark/Web.html)查看
SPARKAI_URL = 'ws(s)://spark-api.xf-yun.com/v1.1/chat'
#星火认知大模型调用秘钥信息,请前往讯飞开放平台控制台(https://console.xfyun.cn/services/bm35)查看
SPARKAI_APP_ID = '替换成自己的appid'
SPARKAI_API_SECRET = '替换成自己的secret'
SPARKAI_API_KEY = '替换成自己的key'
#星火认知大模型Spark3.5 Max的domain值,其他版本大模型domain值请前往文档(https://www.xfyun.cn/doc/spark/Web.html)查看
SPARKAI_DOMAIN = 'general'
with gr.Blocks() as demo:
    chatbot = gr.Chatbot()
    msg = gr.Textbox()
    clear = gr.Button("清除")
    def respond(message, chat_history):
        spark = ChatSparkLLM(
        spark_api_url=SPARKAI_URL,
        spark_app_id=SPARKAI_APP_ID,
        spark_api_key=SPARKAI_API_KEY,
        spark_api_secret=SPARKAI_API_SECRET,
        spark_llm_domain=SPARKAI_DOMAIN,
        streaming=False,
    )
        messages = [ChatMessage(
            role="user",
            content=message
        )]
        handler = ChunkPrintHandler()
        a = spark.generate([messages], callbacks=[handler])
        print(a.generations[0][0].text)
        chat_history.append((message, a.generations[0][0].text))
        return "", chat_history
    msg.submit(respond, [msg, chatbot], [msg, chatbot])
    clear.click(lambda: None, None, chatbot, queue=False)
demo.launch()
三、运行代码,python chat.py
显示如下信息即成功:
Running on local URL:  http://127.0.0.1:7860
To create a public link, set `share=True` in `launch()`.
四、打开浏览器 输入http://127.0.0.1:7860 界面如下:
[i]
[i]
Chatbox显示聊天的记录,Textbox为输入框

模型, 自己的

破解专用户   

昨天还像来着,怎么论坛就没有人出这类作品,今天就有了,大佬牛13,请问大佬,能出多功能吗,比如,我填百度的去水印API,可以达到去水印,高清修复api,影视去字幕api等等AI功能,只要填百度,或者讯飞的API等去就能实现的软件^
DonaldTiger   

大佬牛逼
orb001   

谢谢牛逼大佬分享代码
ZhjhJZ   

机器人聊天挺有意思的,有时出其不意。但智能还有待提高
醉酒听风   

高级!!!搞一个试试,感谢分享
勤快的懒虫   

这个不粗我来 看看了
您需要登录后才可以回帖 登录 | 立即注册

返回顶部