操作系统
Linux
最近更新
2024-08-24
使用许可
开源
语言
不支持中文
文件大小
1.05 GB

注意,自2.15.0版本起,该版本支持CPU AVX/AVX2/avx512指令集。


LocalAI是一款专为本地部署设计的开源项目,旨在帮助开发者在本地环境中快速搭建和运行人工智能应用,无需云端依赖。

作为一款专为本地部署设计的开源AI项目,LocalAI凭借其多模型支持、本地运行与隐私保护、性能优化、易于集成与扩展等特点,为开发者提供了一个低门槛、高效能的AI应用解决方案。


多模型支持:

LocalAI支持多种预训练模型,如图像识别、文本分类、音频转录等,并进行了封装,只需几行代码即可调用。

兼容多种大模型,如llama.cpp、alpaca.cpp、gpt4all.cpp、rwkv.cpp、whisper.cpp、vicuna、koala、gpt4all-j、cerebras等。

支持与ggml格式兼容的多个模型系列,如GPT4ALL-J和带有ggml的cerebras-GPT。


本地运行与隐私保护:

所有计算和数据处理都在本地进行,无需将数据上传到云端,大大增强了数据安全性和隐私保护。

无需GPU和互联网访问,即可在消费级硬件上运行,降低了使用门槛和成本。


性能优化:

使用C++绑定来优化推理过程,实现更快的推理速度和更好的性能。

首次加载模型后,会将其加载到内存中以进行更快的推理。


易于集成与扩展:

提供了一套简洁明了的API接口,方便开发者快速集成到现有系统中。

支持多种操作系统,包括Windows、macOS和各种Linux发行版,实现了跨平台支持。

允许用户导入TensorFlow、PyTorch等深度学习库构建的自定义或新模型,增强了可扩展性。


模型管理:

提供了轻量级的模型管理器,支持模型的加载、存储和管理。

可以通过简单的命令或API调用,实现模型的快速切换和更新。


应用场景广泛:

智能家居:在物联网设备上实现本地化的语音识别和智能控制。

移动应用:为应用添加实时的图像分析或自然语言处理能力,提高用户体验。

企业内部工具:用于数据分析和报告生成,提升工作效率。

隐私敏感项目:如医疗健康领域,确保患者数据的安全性。

2.18.1 版本更新说明:

错误修复

  • 修复(talk):通过ID而非名称识别模型,由@mudler完成
  • 修复(initializer):仅选择存在的后端,由@mudler完成


令人兴奋的新功能

  • 新功能(backend):添加自动检测回退,由@mudler实现


模型

  • 模型库(gallery):新增new-dawn-llama模型,由@mudler完成
  • 模型库(gallery):更新校验和,由@localai-bot完成
  • 模型库(gallery):添加l3-aethora-15b-v2模型,由@mudler完成
  • 模型库(gallery):添加bungo-l3-8b-iq-imatrix模型,由@mudler添加
  • 模型库(gallery):添加lama3-8b-darkidol-2.1-uncensored-1048k-iq-imatrix模型,由@mudler添加
  • 模型库(gallery):添加llm-compiler,由@mudler完成
  • 模型库(gallery):添加lama3-turbcat-instruct-8b模型,由@mudler添加
  • 模型库(gallery):更新校验和,由@localai-bot完成


依赖关系

  • 更新ggerganov/llama.cpp,由@localai-bot完成
  • 更新docs版本mudler/LocalAI,由@localai-bot完成

其他版本
最近更新软件·Linux 软件更新列表
妙笔 [应用软件] 妙笔 2.5.4.7486 64位
今天 09:46
Todoist [应用软件] Todoist 9.7.5 64位
今天 07:24
Zotero [应用软件] Zotero 7.0.5 64位
今天 07:21
Zotero [应用软件] Zotero 7.0.5 32位
今天 07:21
Apifox [开发] Apifox 2.6.16 64位
今天 07:17
Apifox [开发] Apifox 2.6.16 ARM64
今天 07:15
Lunacy [设计] Lunacy 10.1.0 ARM64
今天 07:05
Lunacy [设计] Lunacy 10.1.0 64位
今天 07:05
.NET 9 运行时 [开发] .NET 9 运行时 9.0.0 RC 1 ARM
今天 06:47
.NET 9 运行时 [开发] .NET 9 运行时 9.0.0 RC 1 ARM64
今天 06:47
新软件·Linux 新软件列表
奥维互动地图 [行业] 奥维互动地图 2.7.0 ARM64
09-11
奥维互动地图 [行业] 奥维互动地图 2.7.0 64位
09-11
小鱼易连 [网络] 小鱼易连 3.10.0.22198 ARM64/麒麟,鲲鹏
09-11
小鱼易连 [网络] 小鱼易连 3.10.0.22150 64位/兆芯
09-11
小鱼易连 [网络] 小鱼易连 3.10.0.22198 ARM64/麒麟,鲲鹏
09-11
小鱼易连 [网络] 小鱼易连 3.10.0.22150 64位/兆芯
09-11
Tropy [媒体] Tropy 1.16.2 64位
09-10
Zotero [应用软件] Zotero 7.0.5 32位
今天 07:21
Zotero [应用软件] Zotero 7.0.5 64位
今天 07:21
欧路词典 [教育] 欧路词典 13.5.2 64位
09-09