操作系统
Linux
最近更新
2024年09月07日
使用许可
开源
语言
不支持中文
文件大小
1.42 GB

Ollama是一款用于在本地运行大型语言模型(LLM)的开源软件。它旨在为用户提供简化的部署和管理LLM的工具,使得用户可以在本地快速运行诸如Llama 2、Code Llama等模型。


Ollama的主要功能特点如下:

  1. 易于使用和轻量级:Ollama提供了一个简洁明了的API,使得即使是没有经验的用户也能轻松创建、运行和管理模型。此外,它的代码设计得非常简洁,运行时占用的资源较少,因此即使在配置较低的机器上也能流畅运行。
  2. 模型运行和定制:Ollama允许用户在本地运行各种大型语言模型,如Llama 2等。这些模型提供了先进的自然语言处理能力,适用于广泛的应用场景。除此之外,用户还可以根据自己的特定需求,利用Ollama的API定制和创建自己的模型。
  3. 模型库和社区支持:Ollama拥有一个预构建的模型库,用户可以直接从中选择并运行所需的模型。同时,它还有一个活跃的社区,用户可以在这里分享经验、获取帮助,并与其他Ollama用户进行交流和合作。
  4. 多平台兼容性和安装简便:目前,Ollama支持macOS和Linux系统,Windows版本即将推出。对于macOS用户,他们可以直接从官方网站下载并安装Ollama。而Linux用户则可以使用一键安装命令来完成安装,非常方便。
  5. 性能优化和可扩展性:Ollama在运行时对性能和资源使用进行了优化,使得即使在资源有限的环境中也能保持高效的运行。此外,由于其开放的API和可扩展的架构,用户可以根据需要扩展和定制Ollama的功能,使其适应更广泛的应用场景。

0.3.10 版本更新说明:

新模型:

  • Reflection:一种采用称为 Reflection-tuning 的新技术训练的高性能模型,该技术教会大型语言模型(LLM)检测其推理中的错误并纠正方向。
  • Yi-Coder:一系列开源代码语言模型,参数少于 100 亿,却能提供最先进的编码性能。


变更内容:

  • 修复了在运行 ollama show 时某些模型发生的罕见错误。
  • 对于不兼容 CUDA 12 的旧版 NVIDIA 驱动程序,现在将使用 CUDA 11。
  • 修复了在运行 ollama create 以从 safetensors 导入 Gemma 2 模型时的错误。

其他版本
最近更新软件 - Linux 软件更新列表
MKVToolNix [媒体] MKVToolNix 87.0 Intel/Silicon
刚刚
Discord [网络] Discord 0.0.67 64位
刚刚
RunJS [开发] RunJS 3.0.0 ARM
刚刚
RunJS [开发] RunJS 3.0.0 ARM64
刚刚
RunJS [开发] RunJS 3.0.0 64位
刚刚
Postman [开发] Postman 11.11 ARM64
刚刚
Postman [开发] Postman 11.11 64位
刚刚
PostgreSQL 10 [开发] PostgreSQL 10 10.23 64位
刚刚
PostgreSQL 10 [开发] PostgreSQL 10 10.23 32位
刚刚
Sunshine [游戏工具] Sunshine 2024.906.213100 ARM64
刚刚
新软件 - Linux 新软件列表
PostgreSQL 10 [开发] PostgreSQL 10 10.23 64位
刚刚
PostgreSQL 10 [开发] PostgreSQL 10 10.23 32位
刚刚
爱享素材下载器 [网络] 爱享素材下载器 2.1.1 ARM64
09-04
爱享素材下载器 [网络] 爱享素材下载器 2.1.1 ARM
09-04
爱享素材下载器 [网络] 爱享素材下载器 2.1.1 64位
09-04
TeamDrive [网络] TeamDrive 5.2.0.3617 64位
09-02
ocenaudio [媒体] ocenaudio 3.14.2 64位
09-01
ocenaudio [媒体] ocenaudio 3.14.2 64位
09-01
ocenaudio [媒体] ocenaudio 3.14.2 64位
09-01
FontForge [媒体] FontForge 20230101 64位
08-31