xChar

今天逛Github,发现一个最近两天非常热门的开源项目 - FreeAskInternet,star数在狂涨,仅仅几天时间已经有5K+star了。

项目简介
FreeAskInternet是一个完全免费、私密且在本地运行的搜索聚合器和答案生成器(即问答AI工具),使用LLM技术,无需GPU。

我们可以直接可以进行提问,项目将使用searxng进行多引擎搜索,并将搜索结果与ChatGPT3.5 LLM结合,基于搜索结果生成答案。

所有过程在本地运行,可以完全不需要GPU或OpenAI或Google API密钥。

这个项目4月初才开源,短短数天的时间就已经有5.6k star了,并且在持续的增加。
功能特性
完全免费(无需任何API密钥)
完全本地(不需要GPU,任何计算机都可以运行)
完全私密(所有都在本地运行,使用定制llm)
不使用LLM硬件(无需GPU)
使用免费ChatGPT3.5 / Qwen / Kimi / ZhipuAI(GLM) API(无需API密钥)
支持自定义LLM(ollama,llama.cpp)
使用Docker Compose快速部署和易于操作
网页和移动设备友好界面,设计用于Web搜索增强AI聊天,可轻松从任何设备访问。
工作原理
1、项目在FreeAskInternet UI界面(在本地运行)中接收用户输入的问题,并调用searxng(在本地运行)在多个搜索引擎上进行搜索。
2、爬取搜索结果链接内容并传递给ChatGPT3.5 / Kimi / Qwen / ZhipuAI / ollama(使用自定义llm),请LLM根据这些内容作为参考回答用户问题。
3、将答案流式传输到Chat UI。
4、项目支持自定义LLM设置,从理论上来说支持无限的llm。
项目安装部署
部署方式也很简单,官方推荐使用docker

git clone https://github.com/nashsu/FreeAskInternet.git
cd ./FreeAskInternet
docker-compose up -d

然后浏览器里打开下面这个地址即可:http://localhost:3000

image
FreeAskInternet 是一款集免费、本地、隐私、强大搜索和智能问答于一身的实用工具。它打破了传统搜索引擎的局限,让你能够更加高效地获取信息。

更多项目细节功能,感兴趣的小伙伴自行到项目地址进行查看。

项目地址:
https://github.com/nashsu/FreeAskInternet

Loading comments...