FreeAskInternet 这个项目有点子强。完全免费、私有且本地运行的搜索聚合器。 FreeAskInternet 是一个完全免费、私有且本地运行的搜索聚合器,并使用 LLM 生成答...

用户昵称:Haijun
Username:0D4A741F-729F-473A-A588-9E0AE6B8536C

FreeAskInternet 这个项目有点子强。完全免费、私有且本地运行的搜索聚合器。

FreeAskInternet 是一个完全免费、私有且本地运行的搜索聚合器,并使用 LLM 生成答案,无需 GPU。用户可以提出问题,系统将使用searxng进行多引擎搜索,并将搜索结果合并到ChatGPT3.5 LLM中,并根据搜索结果生成答案。所有进程都在本地运行,不需要 GPU 或 OpenAI 或 Google API 密钥。

FreeAskInternet核心特点:

1. 🈚️完全免费(不需要任何API密钥)
2. 💻 完全本地化(无需GPU,任何计算机都可以运行)
3. 🔐完全私有(所有东西都在本地运行,使用自定义llm)
4. 👻 无需 LLM 硬件即可运行(无需 GPU!)
5. 🤩 使用免费的 ChatGPT3.5 / Qwen / Kimi / ShipuAI(GLM) API(无需 API 密钥!感谢 OpenAI)
6. 🐵 自定义 LLM(ollama,llama.cpp) 支持
7. 🚀 使用 Docker Compose 快速轻松地部署
8. 🌐 Web 和移动友好界面,专为 Web 搜索增强的 AI 聊天而设计,允许从任何设备轻松访问。

FreeAskInternet怎么运行的?

1️⃣ 系统在FreeAskInternet UI界面(本地运行)中获取用户输入的问题,并调用searxng(本地运行)在多个搜索引擎上进行搜索。

2️⃣ 抓取搜索结果链接内容并传递给ChatGPT3.5/Kimi/Qwen/ZhipuAI/ollama(通过使用自定义llm),要求LLM以此内容为参考回答用户问题。

3️⃣ 将答案传输到聊天 UI。

4️⃣ 我们支持自定义 LLM 设置,因此理论上无限的 llm 支持。

项目地址:github.com

via 人工智能讨论组 - 即刻圈子 (author: Haijun)
 
 
Back to Top
OKHK