观澜Media

AI技术 · 深度资讯 · 前沿观察

通过 Tailscale 或 WireGuard 进行远程 Ollama 访问,无公共端口

当 Ollama 被视为本地守护进程时,它是最快乐..

当 Ollama 被视为本地守护进程时,它是最快乐的:CLI 和您的应用程序与环回 HTTP API 通信,而网络的其余部分永远不会发现它的存在。

默认情况下,这正是发生的情况:公共本地基地址位于本地主机端口 11434 上。

本文讲述的是您想要远程访问(笔记本电脑、另一台办公机器,可能是电话),但又不想将未经身份验证的模型运行器发布到整个互联网的时刻。

这个意图很重要,因为最简单的扩展动作(打开端口,转发它,完成)也是造成混乱的动作。

实用的北极星很简单:保持 Ollama API 的私有性,然后使私有网络路径变得无聊。

主机上的 VPN 接口(tailscale0 或 wg0)。

来源:Dev.to

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注