[开源]一个基于Streamlit多机器人聊天应用,支持多种大语言模型

科技一飞开源 2024-10-14 19:10:16

一飞开源,介绍创意、新奇、有趣、实用的开源应用、系统、软件、硬件及技术,一个探索、发现、分享、使用与互动交流的开源技术社区平台。致力于打造活力开源社区,共建开源新生态!

一、开源项目简介MultiBot Chat

MultiBot Chat 是一个基于 Streamlit 的多机器人聊天应用,支持多种大语言模型(LLM)API,包括 OpenAI、AzureOpenAI、ChatGLM、CoZe、Qwen、Ollama、XingHuo、DeepSeek、Moonshot、Yi 和 Groq。这个应用允许用户同时与多个 AI 聊天机器人进行对话,比较不同模型的回答,并进行群聊式的讨论。

二、开源协议

使用GPL-3.0开源协议

三、界面展示对话模式

在主页面中,用户可以同时与多个 AI 机器人进行对话,直观地比较不同模型的回答。

对话模式允许用户同时与多个 AI 机器人进行交互。这种独特的设计不仅能让用户直观地比较不同模型的回答,还可以探索各种 AI 模型在相同问题上的表现差异。通过这种方式,用户可以更深入地了解不同 AI 模型的优势和特点,为选择最适合特定任务的模型提供宝贵的参考。

群聊模式

群聊模式下,多个 AI 机器人可以进行接龙式的讨论,例如玩成语接龙游戏。

群聊模式是 MultiBot Chat 的一大亮点,它不仅能让多个 AI 机器人进行有趣的互动,还可以主动让机器人发言或使用工具,实现复杂的工作流,模拟多方对话场景。用户可以观察不同模型如何协作完成任务,比较它们在群聊中的表现和互动方式,甚至可以自定义每个机器人的角色和专长,探索多样化的群聊动态。这种独特的功能为研究 AI 协作能力和测试不同模型在复杂对话环境中的表现提供了宝贵的平台。

集中管理机器人

MultiBot Chat 提供了方便的批量管理功能,让用户可以轻松控制多个机器人。

在群聊页面的侧边栏中,用户可以:

编辑所有机器人调整聊天时携带的历史消息数量设置全局提示词,可覆盖每个机器人的设置设置群聊接力提示词,指导机器人如何在群聊中接力发言切换不同的话题,方便管理多个独立的讨论

这些功能大大提高了管理效率,使得用户可以轻松控制复杂的多机器人对话场景。

群聊工具箱

群聊过程中可以使用工具参与讨论,以实现复杂的工作流,目前自带的示例工具为:

计算器:可以提取上一条消息中的所有算式,返回每个算式的计算结果。统计分析:可以计算上一条消息的行数字数,并对数字行进行求和、求均值、求中位数等统计操作。提取网页:可以自动提取网页中的标题和正文部分,最多可以返回3个页面。一键讨论:由AI来自动规划接下来1~3轮需要由哪些角色参与发言。AI搜索:提取消息中的链接,用AI重新组织语言后返回最多3条搜索结果,包括标题、链接和摘要。MD转纯文本:将Markdown格式的内容转换为纯文本,方便用户获取干净的文本信息。

通过以上步骤,您可以轻松扩展 MultiBot Chat 的功能满足您的特定需求。

四、功能概述主要特点多机器人同时对话:与多个AI助手实时交互,直观比较不同模型的表现群聊模式:让多个AI参与讨论,模拟复杂的多方对话场景可扩展工具箱:通过自定义工具实现复杂工作流,提升AI协作能力跨平台模型管理:批量操作和控制来自不同厂商的多种AI模型云端同步设置:轻松在多设备间同步您的个性化配置

其他特色功能:

自定义系统提示词支持多种主流大语言模型API用户账户系统确保数据安全灵活的对话历史管理可调节的上下文长度五、技术选型安装克隆仓库:访问一飞开源:https://code.exmay.com/ 下载cd multibot-chat创建并激活虚拟环境(可选但推荐):conda create -n multibot-chat python=3.11conda activate multibot-chat安装依赖:pip install -r requirements.txt# 如果下载慢,可以使用清华源:# pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple配置在项目根目录创建 .streamlit/secrets.toml 文件,并添加必要的 API 密钥和其他敏感信息。根据需要修改 bot/config.py 文件中的模型配置。运行

在项目根目录下运行以下命令:

streamlit run app.py

或者,您可以使用提供的脚本:

在 Windows 上:双击 start_server.bat在 Linux/Mac 上:运行 ./start_server.sh

更多内容请查看 README.md 文档

六、源码地址

访问一飞开源:https://code.exmay.com/

1 阅读:14