3.0.0 版本更新说明:
新功能:
完全重构用户界面
LocalDocs功能改进
使用nomic-embed-text-v1.5作为本地模型,替代SBert
应用程序随附本地模型,无需后续下载
在SQLite数据库中扁平化存储嵌入向量,而非使用hnswlib索引
使用usearch进行精确KNN搜索,替代hnswlib的近似KNN搜索
添加Markdown支持
嵌入支持CUDA/Metal设备选项
修复:
修复了嵌入分词问题
修复了加载名称中含"code"的特定模型时的崩溃问题
解决了大块尺寸下嵌入崩溃的问题
修复了Windows系统下无法加载包含非ASCII字符路径的模型问题
CUDA:不在Windows上显示非致命DLL错误
LocalDocs相关修复
- 即使在未选中集合中有更好的匹配项,也始终使用请求的摘录数量
- 启动时检查已删除文件
CUDA:修复与某些GPT4All构建相关的PTX错误
修复模型切换后设备显示为空及优化使用统计信息
GPU首次加载失败时,即使ngl=0也不足以切换,改为使用CPU后端
修复了发送大于n_ctx令牌数的消息时的崩溃问题