企业官网建设流程全解析

网站建设方案申请,重庆最新网站备案,游戏网站模,建设网站方案 ppt文章目录前言【视频教程】1. Docker部署2. 简单使用演示3. 安装cpolar内网穿透4. 配置公网地址5. 配置固定公网地址前言 LocalAI 是一款开源工具#xff0c;支持在本地部署多种大语言模型和多模态工具#xff0c;能实现文本生成、图像创作等 AI 功能#xff0c;数据无需上传…文章目录前言【视频教程】1. Docker部署2. 简单使用演示3. 安装cpolar内网穿透4. 配置公网地址5. 配置固定公网地址前言LocalAI 是一款开源工具支持在本地部署多种大语言模型和多模态工具能实现文本生成、图像创作等 AI 功能数据无需上传云端。适合注重隐私的个人用户、研究团队以及需要在内部网络搭建 AI 服务的企业既享受 AI 便利又保障数据安全。使用 LocalAI 时发现它对硬件要求不算太高普通电脑的 CPU 也能运行轻量模型。不过要注意下载大模型时需保证网络稳定否则容易中断首次启动可能需要耐心等待模型加载。但 LocalAI 默认只能在局域网内使用限制了使用场景。比如在家训练好模型想在公司继续调试就得重新部署团队成员想远程协作使用同一模型也无法直接访问。而 LocalAI 与 cpolar 结合后轻松实现公网访问。在家部署的模型在公司通过公网地址就能调用团队成员也能远程访问共同使用既保持数据本地存储的安全性又打破了局域网的使用局限。本文主要介绍如何在本地服务器部署无需依托高昂价格的GPU也可以在本地运行离线AI项目的开源AI神器LoaclAI并结合cpolar内网穿透轻松实现远程使用的超详细教程。【视频教程】1. Docker部署本例使用Ubuntu 22.04进行演示使用Docker进行部署如果没有安装Docker可以查看这篇教程进行安装《Docker安装教程——Linux、Windows、MacOS》安装好Docker后打开终端执行这行命令启动容器即可sudodocker run -ti --name local-ai -p8080:8080 localai/localai:latest-cpu这里使用的镜像是仅使用CPU来运行的镜像如果大家有Nvidia显卡的好GPU也可以使用下方命令拉取支持N卡的镜像来运行容器sudodocker run -ti --name local-ai -p8080:8080 --gpus all localai/localai:latest-gpu-nvidia-cuda-12更多项目配置与使用详情大家也可以访问作者的github主页进行查看https://github.com/mudler/LocalAI2. 简单使用演示容器启动后我们在Ubuntu中使用浏览器访问 http://localhost:8080 即可打开LocalAI的Web UI页面能看到页面中央提示我们现在还没有添加大模型我们可以点击Gallery在跳转页面选择一个大模型可以看到在这个界面中有600多个大模型并且可以根据用途标签文字转语音、图片生成、文章生成等等进行筛选或者在下方输入框搜索指定的模型我这里以添加llama-3.2-1b模型来进行演示点击install按钮安装等待完成即可安装完成后点击页面上方导航条中的HOME回到主页即可发现刚刚添加的llama-3.2模型想要使用这个AI大模型点击上方导航中的chat即可与它聊天了点击右侧的模型选择下拉框中会显示你已经安装的大模型目前我只安装了这一个如果想继续安装其他大模型可以点击页面上方导航栏中的Models进行选择跳转的就是首次挑选模型安装的那个页面3. 安装cpolar内网穿透不过我们目前只能在本地局域网内访问刚刚部署的LocalAI来使用AI大模型聊天如果想不在同一局域网内时也能在外部网络环境使用手机、平板、电脑等设备远程访问与使用它应该怎么办呢我们可以使用cpolar内网穿透工具来实现远程访问的需求。无需公网IP也不用设置路由器那么麻烦。下面是安装cpolar步骤Cpolar官网地址:https://www.cpolar.com使用一键脚本安装命令sudocurlhttps://get.cpolar.sh|sh安装完成后执行下方命令查看cpolar服务状态如图所示即为正常启动sudosystemctl status cpolarCpolar安装和成功启动服务后在浏览器上输入ubuntu主机IP加9200端口即:【http://localhost:9200】访问Cpolar管理界面使用Cpolar官网注册的账号登录,登录后即可看到cpolar web 配置界面,接下来在web 界面配置即可4. 配置公网地址登录cpolar web UI管理界面后,点击左侧仪表盘的隧道管理——创建隧道隧道名称可自定义本例使用了: localai 注意不要与已有的隧道名称重复协议http本地地址8080域名类型随机域名地区选择China Top点击创建创建成功后打开左侧在线隧道列表,可以看到刚刚通过创建隧道生成了两个公网地址接下来就可以在其他电脑或者移动端设备异地上使用任意一个地址在浏览器中访问即可。如图所示现在就已经成功实现使用公网地址异地远程访问本地部署的LocalAI来用AI大模型聊天啦小结为了方便演示我们在上边的操作过程中使用cpolar生成的HTTP公网地址隧道其公网地址是随机生成的。这种随机地址的优势在于建立速度快可以立即使用。然而它的缺点是网址是随机生成这个地址在24小时内会发生随机变化更适合于临时使用。如果有长期使用LocalAI或者异地访问与使用其他本地部署的服务的需求但又不想每天重新配置公网地址还想让公网地址好看又好记并体验更多功能与更快的带宽那我推荐大家选择使用固定的二级子域名方式来配置公网地址。5. 配置固定公网地址由于以上使用cpolar所创建的隧道使用的是随机公网地址24小时内会随机变化不利于长期远程访问。因此我们可以为其配置二级子域名该地址为固定地址不会随机变化。注意需要将cpolar套餐升级至基础套餐或以上且每个套餐对应的带宽不一样。【cpolar.cn已备案】点击左侧的预留选择保留二级子域名地区选择china top然后设置一个二级子域名名称我这里演示使用的是mylocal大家可以自定义。填写备注信息点击保留。保留成功后复制保留的二级子域名地址登录cpolar web UI管理界面点击左侧仪表盘的隧道管理——隧道列表找到所要配置的隧道localai点击右侧的编辑。修改隧道信息将保留成功的二级子域名配置到隧道中域名类型选择二级子域名Sub Domain填写保留成功的二级子域名地区: China Top点击更新更新完成后打开在线隧道列表此时可以看到随机的公网地址已经发生变化地址名称也变成了保留和固定的二级子域名名称。最后我们使用固定的公网地址在任意设备的浏览器中访问可以看到成功访问本地部署的LocalAI Web UI页面这样一个永久不会变化的二级子域名公网网址即设置好了。以上就是如何在本地Ubuntu系统使用Docker快速部署开源AI服务LocalAI并安装cpolar内网穿透工具配置固定不变的二级子域名公网地址实现随时随地远程在线与AI大模型交互的全部流程感谢您的观看有任何问题欢迎留言交流。总结LocalAI 与 cpolar 的搭配让本地 AI 服务的使用更灵活。无需担心数据泄露又能实现远程访问为 AI 应用提供了更实用的解决方案。本篇文章知识点来源[cpolar官网][https://www.cpolar.com]