操作系统
Windows 7
最近更新
2024-11-11
使用许可
开源
语言
不支持中文
文件大小
20.21 MB

Ollama是一个开源的大型语言模型(LLM)服务工具,专为在本地机器上便捷部署和运行大型语言模型而设计。它极大地简化了在Docker容器内部署和管理LLM的过程,使得非专业用户也能方便地管理和运行这些复杂的模型。


简化部署

一键安装与运行:用户只需通过简单的安装指令和一条命令,即可在本地快速运行开源大型语言模型,如Llama 2等。

跨平台支持:提供针对macOS、Windows(预览版)、Linux以及Docker的安装指南,确保用户能在多种操作系统环境下顺利部署和使用Ollama。


轻量级与可扩展

资源占用少:Ollama的代码简洁明了,运行时占用资源少,能够在本地高效地运行,不需要大量的计算资源。

灵活多变:支持热加载模型文件,无需重新启动即可切换不同的模型,这使得它非常灵活多变。

可扩展性:支持多种模型架构,并可以扩展以支持新的模型,满足用户的不同需求。


易于使用

简单API:提供了一个简洁的API,使得开发者能够轻松创建、运行和管理大型语言模型实例,降低了与模型交互的技术门槛。

聊天界面:提供了类似ChatGPT的聊天界面,用户无需开发即可直接与模型进行聊天交互。

安装简便:用户只需按照安装指南进行操作即可完成安装,无需具备专业的技术背景。


预构建模型库

丰富的模型选择:包含一系列预先训练好的大型语言模型,用户可以直接选用这些模型应用于自己的应用程序,无需从头训练或自行寻找模型源。

多领域覆盖:预构建模型库中的模型覆盖多个领域,如文本生成、翻译、问答等,满足用户的不同需求。


兼容性与导入功能

兼容深度学习框架:兼容PyTorch和Safetensors等深度学习框架,允许用户将基于这些框架训练的模型集成到Ollama中。

支持从特定平台导入:支持从特定平台(如GGUF)导入已有的大型语言模型,增加了模型的来源和多样性。


自定义与配置

自定义提示:允许用户为模型添加或修改提示(prompt engineering),以引导模型生成特定类型或风格的文本输出。

环境变量配置:如OLLAMA_HOST,用于指定服务绑定的主机地址和端口,用户可以根据需要进行修改。

0.3.13 版本更新说明:

新安全模型

  • Llama Guard 3:Meta推出的一系列模型,针对LLM输入和响应的内容安全分类进行了微调。
  • ShieldGemma:ShieldGemma是来自Google DeepMind的一套指令调优模型,用于根据一组定义的安全策略评估文本提示输入和文本输出响应的安全性。


变更内容

  • 快速入门中的默认模型现已变更为llama3.2
  • 修复了遇到错误时会遗留连接的问题
  • ollama rm命令在删除模型前,如果模型正在运行,现在会先停止它


新的Go运行器(面向贡献者):

  • Ollama正转向一种基于Go的新子进程模型运行器,该运行器具有更高的可靠性和缓存性能。这个新的运行器位于某个目录下,取代了之前的代码。在此过渡期间,新的Go运行器在构建时是可选的,并且需要采用不同的方法来构建。

其他版本
最近更新软件·Windows 软件更新列表
360AI浏览器 [网络] 360AI浏览器 1.1.1196 64位
刚刚
小鱼易连 [网络] 小鱼易连 3.10.10.26557 32位/64位
刚刚
Brave Browser [网络] Brave Browser 1.73.91 ARM64
刚刚
Brave Browser [网络] Brave Browser 1.73.91 32位
刚刚
Brave Browser [网络] Brave Browser 1.73.91 64位
刚刚
Pixelmash [设计] Pixelmash 2025.0.0 64位
刚刚
腾讯视频 [网络] 腾讯视频 11.106.5546.0 32位/64位
刚刚
Slack [应用软件] Slack 4.41.98 ARM64
刚刚
MasterGo [设计] MasterGo 1.9.0 64位
刚刚
YT Downloader [网络] YT Downloader 9.11.1 32位/64位
刚刚
新软件·Windows 新软件列表
RadioMaximus [网络] RadioMaximus 2.33.5 64位
26分钟前
RadioMaximus [网络] RadioMaximus 2.33.5 32位
24分钟前
Cursor [开发] Cursor 0.42.5 64位
昨天 21:23
Ultraleap Gemini [系统工具] Ultraleap Gemini 5.20.0 64位
11-19
联想电脑管家 [安全] 联想电脑管家 5.1.80.9066 ARM64
11-15
AFFiNE [应用软件] AFFiNE 0.18.0 ARM64
11-15
星火编辑器 [开发] 星火编辑器 241023 64位
11-11
Another Redis Desktop Manager [开发] Another Redis Desktop Manager 1.7.0 ARM64
11-10
Python 3.13 [开发] Python 3.13 3.13.0 ARM64
11-07
Python 3.13 [开发] Python 3.13 3.13.0 64位
11-07