LocalAI 2.19.4 for macos Silicon 正式版历史版本

LocalAI是一款专为本地部署设计的开源项目，旨在帮助开发者在本地环境中快速搭建和运行人工智能应用，无需云端依赖。

作为一款专为本地部署设计的开源AI项目，LocalAI凭借其多模型支持、本地运行与隐私保护、性能优化、易于集成与扩展等特点，为开发者提供了一个低门槛、高效能的AI应用解决方案。

多模型支持：

LocalAI支持多种预训练模型，如图像识别、文本分类、音频转录等，并进行了封装，只需几行代码即可调用。

兼容多种大模型，如llama.cpp、alpaca.cpp、gpt4all.cpp、rwkv.cpp、whisper.cpp、vicuna、koala、gpt4all-j、cerebras等。

支持与ggml格式兼容的多个模型系列，如GPT4ALL-J和带有ggml的cerebras-GPT。

本地运行与隐私保护：

所有计算和数据处理都在本地进行，无需将数据上传到云端，大大增强了数据安全性和隐私保护。

无需GPU和互联网访问，即可在消费级硬件上运行，降低了使用门槛和成本。

性能优化：

使用C++绑定来优化推理过程，实现更快的推理速度和更好的性能。

首次加载模型后，会将其加载到内存中以进行更快的推理。

易于集成与扩展：

提供了一套简洁明了的API接口，方便开发者快速集成到现有系统中。

支持多种操作系统，包括Windows、macOS和各种Linux发行版，实现了跨平台支持。

允许用户导入TensorFlow、PyTorch等深度学习库构建的自定义或新模型，增强了可扩展性。

模型管理：

提供了轻量级的模型管理器，支持模型的加载、存储和管理。

可以通过简单的命令或API调用，实现模型的快速切换和更新。

应用场景广泛：

智能家居：在物联网设备上实现本地化的语音识别和智能控制。

移动应用：为应用添加实时的图像分析或自然语言处理能力，提高用户体验。

企业内部工具：用于数据分析和报告生成，提升工作效率。

隐私敏感项目：如医疗健康领域，确保患者数据的安全性。

2.19.4 版本更新说明：

模型

常规任务 (model-gallery):

模型库 (gallery):

依赖库

常规任务 (deps):

由 @dependabot 将 langchain 从 0.2.10 升级到 0.2.11 在 /examples/langchain/langchainpy-localai-example 目录下。
由 @dependabot 将 openai 从 1.37.0 升级到 1.37.1 在 /examples/langchain/langchainpy-localai-example 目录下。
由 @dependabot 将 setuptools 从 70.3.0 升级到 72.1.0 在 /backend/python/autogptq 目录下。
由 @dependabot 将 setuptools 从 70.3.0 升级到 72.1.0 在 /backend/python/vllm 目录下。
由 @dependabot 将 chromadb 从 0.5.4 升级到 0.5.5 在 /examples/langchain-chroma 目录下。
由 @dependabot 将 setuptools 从 70.3.0 升级到 72.1.0 在 /backend/python/parler-tts 目录下。
由 @dependabot 将 setuptools 从 70.3.0 升级到 72.1.0 在 /backend/python/rerankers 目录下。
由 @dependabot 将 setuptools 从 69.5.1 升级到 72.1.0 在 /backend/python/transformers-musicgen 目录下。
由 @dependabot 将 setuptools 从 70.3.0 升级到 72.1.0 在 /backend/python/coqui 目录下。
由 @dependabot 将 setuptools 从 70.3.0 升级到 72.1.0 在 /backend/python/vall-e-x 目录下。
由 @dependabot 将 setuptools 从 70.3.0 升级到 72.1.0 在 /backend/python/petals 目录下。
由 @dependabot 将 setuptools 从 69.5.1 升级到 72.1.0 在 /backend/python/transformers 目录下。
由 @dependabot 将 streamlit 从 1.36.0 升级到 1.37.0 在 /examples/streamlit-bot 目录下。

其他修改

文档:

修复:

常规任务:

撤销:

撤销 "常规任务 (deps): 将 setuptools 从 69.5.1 升级到 72.1.0 在 /backend/python/transformers-musicgen 目录下" 由 @mudler 提交
撤销 "常规任务 (deps): 将 setuptools 从 69.5.1 升级到 72.1.0 在 /backend/python/transformers 目录下" 由 @mudler 提交
撤销 "常规任务 (deps): 将 setuptools 从 70.3.0 升级到 72.1.0 在 /backend/python/vllm 目录下" 由 @mudler 提交

修复 (llama-cpp):