Ollama

Linux
  • 64位
0.3.7 正式版
查看最新版本
操作系统
Linux
最近更新
2024-11-11
使用许可
开源
语言
不支持中文
文件大小
1.39 GB

Ollama是一款用于在本地运行大型语言模型（LLM）的开源软件。它旨在为用户提供简化的部署和管理LLM的工具，使得用户可以在本地快速运行诸如Llama 2、Code Llama等模型。


Ollama的主要功能特点如下：

  1. 易于使用和轻量级：Ollama提供了一个简洁明了的API，使得即使是没有经验的用户也能轻松创建、运行和管理模型。此外，它的代码设计得非常简洁，运行时占用的资源较少，因此即使在配置较低的机器上也能流畅运行。
  2. 模型运行和定制：Ollama允许用户在本地运行各种大型语言模型，如Llama 2等。这些模型提供了先进的自然语言处理能力，适用于广泛的应用场景。除此之外，用户还可以根据自己的特定需求，利用Ollama的API定制和创建自己的模型。
  3. 模型库和社区支持：Ollama拥有一个预构建的模型库，用户可以直接从中选择并运行所需的模型。同时，它还有一个活跃的社区，用户可以在这里分享经验、获取帮助，并与其他Ollama用户进行交流和合作。
  4. 多平台兼容性和安装简便：目前，Ollama支持macOS和Linux系统，Windows版本即将推出。对于macOS用户，他们可以直接从官方网站下载并安装Ollama。而Linux用户则可以使用一键安装命令来完成安装，非常方便。
  5. 性能优化和可扩展性：Ollama在运行时对性能和资源使用进行了优化，使得即使在资源有限的环境中也能保持高效的运行。此外，由于其开放的API和可扩展的架构，用户可以根据需要扩展和定制Ollama的功能，使其适应更广泛的应用场景。

0.3.7 版本更新说明：

变更内容

  • 支持 CUDA 12，对于较新的 NVIDIA GPU，性能提升可达 10%。
  • 提升了在较慢连接下的 ollama pull 和 ollama push 的性能。
  • 修复了一个问题，在较低 VRAM 的系统中设置 OLlama_NUM_PARALLEL 会导致模型重新加载。
  • Ollama 在 Linux 上现在作为一个 .tar.gz 文件分发，该文件包含了 ollama 二进制文件以及所需的库。

其他版本
最近更新软件·Linux 软件更新列表
Apifox [开发] Apifox 2.6.32 ARM64
11-21
Apifox [开发] Apifox 2.6.32 64位
11-21
腾讯文档 [应用软件] 腾讯文档 3.8.11 ARM64
11-21
腾讯文档 [应用软件] 腾讯文档 3.8.11 64位
11-21
小鱼易连 [网络] 小鱼易连 3.10.0.23021 ARM64/麒麟,鲲鹏
11-21
小鱼易连 [网络] 小鱼易连 3.10.0.23021 ARM64/麒麟,鲲鹏
11-21
Brave Browser [网络] Brave Browser 1.73.91 ARM64
11-21
Brave Browser [网络] Brave Browser 1.73.91 64位
11-21
Slack [应用软件] Slack 4.41.97 64位
11-21
Cursor [开发] Cursor 0.42.5 64位
11-20
新软件·Linux 新软件列表
Cursor [开发] Cursor 0.42.5 64位
11-20
VMware Workstation [系统工具] VMware Workstation 17.6.1 64位
11-19
微信 [网络] 微信 4.0.0 龙芯
11-11
微信 [网络] 微信 4.0.0 ARM64
11-11
微信 [网络] 微信 4.0.0 64位
11-11
Another Redis Desktop Manager [开发] Another Redis Desktop Manager 1.7.0 ARM64
11-10
115浏览器 [网络] 115浏览器 27.0.6.9 64位
11-09
Python 3.13 [开发] Python 3.13 3.13.0 64位
11-07
Python 3.12 [开发] Python 3.12 3.12.7 64位
11-07
Python 3.11 [开发] Python 3.11 3.11.10 64位
11-07