Langchain-Chatatch：基于Langchain与ChatGLM等语言模型的本地知识库问答

项目描述

Langchain-Chatatch（以前称为 langchain-ChatGLM）是一个基于本地知识的LLM（如ChatGLM）与langchain框架的问答应用程序。该项目旨在建立一套针对中文场景与开源模型支持模式、可离线运行的知识库问答解决方案。通过借鉴GanymedeNil的项目document.ai和AlexZhangji创建的ChatGLM-6B Pull Request指令，我们成功构建了一个全流程可使用开源模型实现的本地知识库问答应用。

主要功能

• 多模型支持：最新版本中通过使用FastChat接入Vicuna、Alpaca、LLaMA、Koala、RWKV等模型，提供多样化的语言模型选择。
• API调用服务：依托于langchain框架，支持基于FastAPI提供的API调用服务，方便开发者进行集成和扩展。
• WebUI操作：提供基于Streamlit的WebUI，用户可以通过浏览器直观地进行操作和交互。
• 离线部署：项目支持全部使用开源模型进行离线部署，确保数据安全和隐私保护。
• OpenAI支持：除了开源模型，项目也支持OpenAI的API，为用户提供更多选择。

使用说明

1. 安装依赖：

   pip install -r requirements.txt
   

2. 启动服务：

   python app.py
   

3. 访问WebUI： 打开浏览器，访问 http://localhost:8501 即可使用基于Streamlit的WebUI进行操作。

4. API调用： 通过FastAPI提供的API接口进行调用，具体API文档请参考 docs/api.md。

贡献指南

我们欢迎社区的贡献和反馈。如果您有任何建议或发现了问题，请提交Issue或Pull Request。

许可证

本项目采用MIT许可证，详情请参阅 LICENSE 文件。

致谢

感谢GanymedeNil和AlexZhangji的贡献，以及所有开源社区的支持。