录音/制作/创作 吉他 扩声技术 视频技术 作品展示 生活 信息 更多... | 音频应用专卖店
AI 制作

[教程] 【AI翻译】-调用ollama本地大语言模型-沉浸网页翻译-本地翻译软件

( 14 )
 
[收藏]
#1 25-2-1 14:04

【AI翻译】-调用ollama本地大语言模型-沉浸网页翻译-本地翻译软件


5750
最近deepseek特别火热,还让老美AI巨头股票狂跌,春节我也教大家怎么调用我们的国产大模型进行本地翻译。

首先,我们下载一个最关键的软件ollama(https://ollama.com/),安装完成后打开终端(CMD)输入命令并回车:ollama run qwen2.5:1.5b

等待模型下载并安装完成,你就会在终端看到输入命令,现在我们就开始讲解怎么在浏览器插件调用ollama模型。

进入沉浸翻译设置页面-翻译服务-openai 点进去




根据下图设置-自定义api key-key随意填写-选自定义模型写:qwen2.5:1.5b

自定义api接口地址:http://localhost:11434/v1/chat/completions



填写完毕后点右上角:点此测试服务

如果显⽰403错误的话,可以使⽤以下⽅式解决:
Macos
输⼊launchctl setenv OLLAMA_ORIGINS "*" 后启动ollama APP
Linux
输⼊ OLLAMA_ORIGINS="*" ollama serve
Windows
控制⾯板-系统属性-环境变量-⽤⼾环境变量中新建2个环境变量:

变量名OLLAMA_HOST变量值设置为0.0.0.0
变量名OLLAMA_ORIGINS变量值设置为*,再退出启动ollama。

按照以上设置之后你再点此测试服务应该就已经成功了,到此沉浸翻译就已经能调用ollama的本地模型了,翻译的时候只要选openai就行。

-------------------------------

下面就是教大家怎么在非网页端调用ollama:

首先,下载pot翻译软件 https://github.com/pot-app/pot-desktop/releases/tag/3.0.6

设置比上面的简单一点,设置-服务设置-添加内置服务-ollama-按照下图设置保存即可:



如果你需要一个工具条,下载安装这个软件 https://snipdo-app.com/
然后再pot页面下载安装  pot.pbar

都弄好之后,你只要选中一段文字就会出现翻译按钮,如果你没有安装snipdo插件,就使用pot的快捷键翻译。

其实deepseek蒸馏模型1.5b也可以作为翻译使用,为什么我使用qwen不用deepseek?
因为deepseek r1模型前面会有一段很长的think无用信息,我暂时不知道怎么去掉。

本帖最后由 martjay 于 25-1-31 22:07 编辑

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?注册

x

5750
#10 25-2-1 20:44
office/wps也可以调用本地模型了

https://office-ai.cn/

教程 https://www.bilibili.com/video/BV1UBF5eVEAn/

350
#2 25-2-1 14:26
有没有可以直接翻译软件界面的?像有道那样直接在软件界面直接生成覆盖层。

556
#3 25-2-1 14:52
那一段正是deepseek的精华 —“推理”,它为你展示deepseek对于你的问题是怎样“推理”的,这是其他AI软件没有或不显示的。 本帖最后由 yx5516 于 25-2-1 14:53 编辑

5750
#4 25-2-1 15:45
tdwfwsk 发表于 25-1-31 22:26
有没有可以直接翻译软件界面的?像有道那样直接在软件界面直接生成覆盖层。

百度翻译软件可以截图翻译,应该是你说的那种

5750
#5 25-2-1 15:46
yx5516 发表于 25-1-31 22:52
那一段正是deepseek的精华 —“推理”,它为你展示deepseek对于你的问题是怎样“推理”的,这是其他AI软件 ...

我会用其他软件来加载deepseek做其他事,比如lm studio,这个是支持上下文推理的

506
#6 25-2-1 16:47
tdwfwsk 发表于 25-2-1 14:26
有没有可以直接翻译软件界面的?像有道那样直接在软件界面直接生成覆盖层。

我还记得2005年左右用过这种软件,任何软件界面直接能翻译中文界面。

5750
#7 25-2-1 17:01
帕尔哈提 发表于 25-2-1 00:47
我还记得2005年左右用过这种软件,任何软件界面直接能翻译中文界面。

金山快译,现在已经不更新了好像
观众反应

350
#8 25-2-1 17:38
martjay 发表于 25-2-1 15:45
百度翻译软件可以截图翻译,应该是你说的那种

跟截图翻译一个原理,但省略了截图保存这一步,直接在选取区域的英文处覆盖上中文,不过翻译效果跟排版做得不是很好。

93
#9 25-2-1 20:00
感谢分享

459
#11 25-2-1 22:48
进入沉浸翻译设置页面.. 请问这一步怎么进?

459
#12 25-2-1 23:51
martjay 发表于 25-2-1 17:01
金山快译,现在已经不更新了好像

你好测试显示401提供的密钥不正确怎么整

5750
#13 25-2-2 09:14
jayyy 发表于 25-2-1 06:48
进入沉浸翻译设置页面.. 请问这一步怎么进?

安装沉浸翻译后右下角有沉浸翻译的图标,鼠标悬停出现设置图标

5750
#14 25-2-2 09:15
jayyy 发表于 25-2-1 07:51
你好测试显示401提供的密钥不正确怎么整

选自定义api key,仔细看

556
#15 25-2-2 14:22
现在chatGPT也要加入“推理”显示,而且准备考虑以适当的方式开源了。
您需要登录后才可以回帖 登录 | 注册

本版积分规则

搜索