操作系统
Linux
最近更新
2024-11-11
使用许可
开源
语言
不支持中文
文件大小
290.93 MB

Ollama是一款用于在本地运行大型语言模型(LLM)的开源软件。它旨在为用户提供简化的部署和管理LLM的工具,使得用户可以在本地快速运行诸如Llama 2、Code Llama等模型。


Ollama的主要功能特点如下:

  1. 易于使用和轻量级:Ollama提供了一个简洁明了的API,使得即使是没有经验的用户也能轻松创建、运行和管理模型。此外,它的代码设计得非常简洁,运行时占用的资源较少,因此即使在配置较低的机器上也能流畅运行。
  2. 模型运行和定制:Ollama允许用户在本地运行各种大型语言模型,如Llama 2等。这些模型提供了先进的自然语言处理能力,适用于广泛的应用场景。除此之外,用户还可以根据自己的特定需求,利用Ollama的API定制和创建自己的模型。
  3. 模型库和社区支持:Ollama拥有一个预构建的模型库,用户可以直接从中选择并运行所需的模型。同时,它还有一个活跃的社区,用户可以在这里分享经验、获取帮助,并与其他Ollama用户进行交流和合作。
  4. 多平台兼容性和安装简便:目前,Ollama支持macOS和Linux系统,Windows版本即将推出。对于macOS用户,他们可以直接从官方网站下载并安装Ollama。而Linux用户则可以使用一键安装命令来完成安装,非常方便。
  5. 性能优化和可扩展性:Ollama在运行时对性能和资源使用进行了优化,使得即使在资源有限的环境中也能保持高效的运行。此外,由于其开放的API和可扩展的架构,用户可以根据需要扩展和定制Ollama的功能,使其适应更广泛的应用场景。

0.1.33 版本更新说明:

模型:

Llama 3:Meta推出的新模型,是目前最强大的公开可用的大型语言模型(LLM)

Phi 3 Mini:微软推出的新模型,拥有38亿参数,轻量级,技术领先且开源。

Dolphin Llama 3:未经审查的Dolphin模型,由Eric Hartford训练,基于Llama 3,具备多种指令、对话和编码技能。

Qwen 110B:首个参数规模超过1000亿的Qwen模型,在评估中表现突出。


更新内容:

修复了模型不终止的问题,避免了API挂起的情况。

修复了在Apple Silicon Mac上的一系列内存溢出错误。

修复了运行Mixtral架构模型时的内存溢出错误。


实验性并发功能

Ollama即将推出新的并发功能。这些功能现已可用:

  • OLLAMA_NUM_PARALLEL:允许单个模型同时处理多个请求
  • OLLAMA_MAX_LOADED_MODELS:允许同时加载多个模型

要启用这些功能,请设置相应的环境变量。

OLLAMA_NUM_PARALLEL=4 OLLAMA_MAX_LOADED_MODELS=4 ollama serve


其他版本
最近更新软件·Linux 软件更新列表
Cursor [开发] Cursor 0.42.5 64位
昨天 21:26
WPS 365 [应用软件] WPS 365 12.8.2.18605 龙芯
昨天 21:26
WPS 365 [应用软件] WPS 365 12.8.2.18605 ARM64
昨天 21:23
WPS 365 [应用软件] WPS 365 12.8.2.18605 MIPS64EL
昨天 21:23
WPS Office [应用软件] WPS Office 12.1.0.17900 64位
昨天 21:21
WPS 365 [应用软件] WPS 365 12.8.2.18605 64位
昨天 21:17
妙笔 [应用软件] 妙笔 2.5.8.7566 64位
昨天 07:19
Zoom [网络] Zoom 6.2.10.4983 64位
昨天 07:09
Lunacy [设计] Lunacy 10.6 ARM64
昨天 06:44
Lunacy [设计] Lunacy 10.6 64位
昨天 06:44
新软件·Linux 新软件列表
Cursor [开发] Cursor 0.42.5 64位
昨天 21:26
VMware Workstation [系统工具] VMware Workstation 17.6.1 64位
11-19
微信 [网络] 微信 4.0.0 龙芯
11-11
微信 [网络] 微信 4.0.0 ARM64
11-11
微信 [网络] 微信 4.0.0 64位
11-11
Another Redis Desktop Manager [开发] Another Redis Desktop Manager 1.7.0 ARM64
11-10
115浏览器 [网络] 115浏览器 27.0.6.9 64位
11-09
Python 3.13 [开发] Python 3.13 3.13.0 64位
11-07
Python 3.12 [开发] Python 3.12 3.12.7 64位
11-07
Python 3.11 [开发] Python 3.11 3.11.10 64位
11-07