Chatd：本地AI文档聊天工具

项目介绍

Chatd 是一款桌面应用程序，允许用户使用本地的大型语言模型（LLM）与文档进行交互。与传统的“本地文档聊天”应用不同，Chatd 自带了本地 LLM 运行器，这意味着用户无需安装任何额外的软件，只需运行可执行文件即可开始使用。Chatd 使用 Ollama 来运行 LLM，Ollama 是一个跨平台的 LLM 运行器 API 服务器。如果用户已经有一个本地的 Ollama 实例在运行，Chatd 将自动使用它；否则，Chatd 会为用户启动一个 Ollama 服务器并管理其生命周期。

项目技术分析

Chatd 的核心技术在于其集成了本地的大型语言模型 Mistral-7B，并通过 Ollama 服务器来运行该模型。Ollama 提供了一个跨平台的 LLM 运行器 API，使得 Chatd 能够在不同操作系统上无缝运行。此外，Chatd 还支持 GPU 加速，用户可以通过简单的配置启用 GPU 支持，从而提升模型的推理速度。

项目及技术应用场景

Chatd 适用于需要与文档进行交互的场景，尤其是在数据隐私和安全性要求较高的环境中。例如：

• 企业内部文档管理：企业可以使用 Chatd 与内部文档进行交互，获取文档中的关键信息，而无需担心数据泄露。
• 学术研究：研究人员可以使用 Chatd 与学术论文进行交互，快速获取论文中的关键信息，提升研究效率。
• 个人知识管理：个人用户可以使用 Chatd 与自己的笔记、文档进行交互，构建个性化的知识库。

项目特点

1. 数据隐私保护：所有数据都保留在用户的计算机上，不会被发送到云端，确保数据的安全性和隐私性。
2. 无需额外安装：Chatd 自带 LLM 运行器，用户只需下载并运行可执行文件即可开始使用。
3. 跨平台支持：Chatd 支持 Windows、MacOS 和 Linux 操作系统，用户可以在不同平台上无缝使用。
4. GPU 加速支持：用户可以通过简单的配置启用 GPU 支持，提升模型的推理速度。
5. 自定义模型选择：用户可以选择使用自定义的 LLM 模型，满足不同的应用需求。

快速开始

1. 从 chatd.ai 或 releases page 下载最新版本。
2. 解压下载的文件。
3. 运行 chatd 可执行文件。

高级设置

• 启用 GPU 支持
• 选择自定义模型

相关链接

• chatd.ai
• ollama.ai

开发与打包

MacOS

1. 从 这里 下载适用于 MacOS 的最新 ollama-darwin 版本。
2. 使下载的二进制文件可执行：chmod +x path/to/ollama-darwin
3. 将 ollama-darwin 可执行文件复制到 chatd/src/service/ollama/runners 目录。
4. 可选：为了在 MacOS 系统上运行打包的应用程序，需要使用开发者证书签名。设置以下环境变量：

APPLE_ID=[e-mail]
APPLE_IDENTITY="Developer ID Application: Your Name (ABCDEF1234)"
APPLE_ID_PASSWORD=your_apple_id_app_specific_password
APPLE_TEAM_ID=ABCDEF1234

5. 运行 npm run package 打包应用程序。

Windows

1. 从源码构建 Ollama 以支持 Windows 的 CPU。
2. 将 ollama.exe 可执行文件复制到 chatd/src/service/ollama/runners/ollama.exe。
3. 运行 npm run package 打包应用程序。

Linux

1. 从源码构建 Ollama 以支持 Linux x64 的 CPU。
2. 将 ollama 可执行文件复制到 chatd/src/service/ollama/runners/ollama-linux。
3. 运行 npm run package 打包应用程序。

Chatd 是一款功能强大且易于使用的本地 AI 文档聊天工具，无论是在企业、学术还是个人场景中，都能为用户提供高效、安全的文档交互体验。立即下载并体验 Chatd，开启您的本地文档聊天之旅！