操作系统
MacOS
最近更新
2024-08-24
使用许可
开源
语言
不支持中文
文件大小
171.05 MB

LocalAI是一款专为本地部署设计的开源项目,旨在帮助开发者在本地环境中快速搭建和运行人工智能应用,无需云端依赖。

作为一款专为本地部署设计的开源AI项目,LocalAI凭借其多模型支持、本地运行与隐私保护、性能优化、易于集成与扩展等特点,为开发者提供了一个低门槛、高效能的AI应用解决方案。


多模型支持:

LocalAI支持多种预训练模型,如图像识别、文本分类、音频转录等,并进行了封装,只需几行代码即可调用。

兼容多种大模型,如llama.cpp、alpaca.cpp、gpt4all.cpp、rwkv.cpp、whisper.cpp、vicuna、koala、gpt4all-j、cerebras等。

支持与ggml格式兼容的多个模型系列,如GPT4ALL-J和带有ggml的cerebras-GPT。


本地运行与隐私保护:

所有计算和数据处理都在本地进行,无需将数据上传到云端,大大增强了数据安全性和隐私保护。

无需GPU和互联网访问,即可在消费级硬件上运行,降低了使用门槛和成本。


性能优化:

使用C++绑定来优化推理过程,实现更快的推理速度和更好的性能。

首次加载模型后,会将其加载到内存中以进行更快的推理。


易于集成与扩展:

提供了一套简洁明了的API接口,方便开发者快速集成到现有系统中。

支持多种操作系统,包括Windows、macOS和各种Linux发行版,实现了跨平台支持。

允许用户导入TensorFlow、PyTorch等深度学习库构建的自定义或新模型,增强了可扩展性。


模型管理:

提供了轻量级的模型管理器,支持模型的加载、存储和管理。

可以通过简单的命令或API调用,实现模型的快速切换和更新。


应用场景广泛:

智能家居:在物联网设备上实现本地化的语音识别和智能控制。

移动应用:为应用添加实时的图像分析或自然语言处理能力,提高用户体验。

企业内部工具:用于数据分析和报告生成,提升工作效率。

隐私敏感项目:如医疗健康领域,确保患者数据的安全性。

2.14.0 版本更新说明:

Bug 修复

修复:config_file_watcher.go - 为安全起见,对所有文件读取进行根路径处理,由 @dave-gray101 完成

修复:github bump_docs.sh 正则表达式,以去除表情符号和其他文本,由 @dave-gray101 完成

修复:在导入 torch 时出现未定义的符号:iJIT_NotifyEvent(问题编号##2153),由 @fakezeta 完成

修复:安全扫描器的警告噪音:错误处理器(第二部分),由 @dave-gray101 完成

修复:确保 GNUMake 的作业服务器被传递给 whisper.cpp 构建,由 @cryptk 完成

修复:将所有内容迁移到相同的 GRPC 版本以修复测试,由 @cryptk 完成


令人兴奋的新功能

功能(gallery):在导航期间也显示作业状态,由 @mudler 完成

功能:清理 Dockerfile 并使最终镜像变得更小,由 @cryptk 完成

修复:根据 whisper.cpp 的弃用消息,切换到 WHISPER_CUDA,由 @cryptk 完成

功能:仅保留 grpc 构建的构建工件,由 @cryptk 完成

功能(gallery):支持模型删除,由 @mudler 完成

重构(应用):引入应用全局状态,由 @dave-gray101 完成

功能:将 Dockerfile 组织成不同的部分,由 @cryptk 完成

功能:在 transformer 后端为嵌入提供 OpenVINO 加速,由 @fakezeta 完成

琐事:将 go-stablediffusion 更新到最新提交,包含 Make jobserver 修复,由 @cryptk 完成

功能:用户为 CUDA 和 OpenVINO 定义推理设备,由 @fakezeta 完成

功能(用户体验):在 WebUI 中添加聊天、tts 和图像生成页面,由 @mudler 完成

功能(all-in-one):将 LLM 切换到基于 llama3 的模型,由 @mudler 完成

功能(用户界面):支持多行和样式化的无序列表,由 @mudler 完成


模型

模型(gallery):添加 Einstein v6.1,由 @mudler 完成

模型(gallery):添加 SOVL,由 @mudler 完成

模型(gallery):添加 average_normie,由 @mudler 完成

模型(gallery):添加 solana,由 @mudler 完成

模型(gallery):添加 poppy porpoise,由 @mudler 完成

模型(gallery):添加 Undi95/Llama-3-LewdPlay-8B-evo-GGUF,由 @mudler 完成

模型(gallery):添加 biomistral-7b,由 @mudler 完成

模型(gallery):添加 llama3-32k,由 @mudler 完成

模型(gallery):添加 openvino 模型,由 @mudler 完成

模型(gallery):添加 lexifun,由 @mudler 完成

模型(gallery):添加 suzume-llama-3-8B-multilingual-gguf,由 @mudler 完成

模型(gallery):添加 guillaumetell,由 @mudler 完成

模型(gallery):添加 wizardlm2,由 @mudler 完成

模型(gallery):添加 Hermes-2-Pro-Llama-3-8B-GGUF,由 @mudler 完成

其他版本
最近更新软件·MacOS 软件更新列表
妙笔 [应用软件] 妙笔 2.5.4.7486 Intel/Silicon
今天 09:47
网易邮箱大师 [网络] 网易邮箱大师 5.1.2 Intel/Silicon
今天 08:52
115浏览器 [网络] 115浏览器 27.0.3.7 Intel
今天 07:39
115浏览器 [网络] 115浏览器 27.0.3.7 Silicon
今天 07:38
抖店 [行业] 抖店 0.12.20 Intel/Silicon
今天 07:35
Todoist [应用软件] Todoist 9.7.5 Silicon
今天 07:24
Todoist [应用软件] Todoist 9.7.5 Intel
今天 07:24
Zotero [应用软件] Zotero 7.0.5 Intel/Silicon
今天 07:21
Apifox [开发] Apifox 2.6.16 Intel
今天 07:18
GameViewer [网络] GameViewer 2.1.2 Intel/Silicon
今天 07:18
新软件·MacOS 新软件列表
奥维互动地图 [行业] 奥维互动地图 2.7.0 Intel/Silicon
09-11
小鱼易连 [网络] 小鱼易连 3.3.3.93222 Intel/Silicon
09-11
腾讯会议 [网络] 腾讯会议 3.28.21.411 Silicon
09-10
Tropy [媒体] Tropy 1.16.2 Silicon
09-10
Tropy [媒体] Tropy 1.16.2 Intel
09-10
Zotero [应用软件] Zotero 7.0.5 Intel/Silicon
今天 07:21
夸克浏览器 [网络] 夸克浏览器 1.7.0.108 Intel/Silicon
09-09
欧路词典 [教育] 欧路词典 4.6.9 Intel/Silicon
09-09
Todo清单 [应用软件] Todo清单 3.7.8 Intel/Silicon
09-09
知网研学 [应用软件] 知网研学 4.3.1 Intel/Silicon
09-09