返回列表 发布新帖

[其他应用] 给绿联 NAS 的 AI 智能体搭个 “外接脑”,实现灾难恢复与长期记忆

285 1
发表于 6 天前 | 查看全部 阅读模式 IP:–河南 /全省通用

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

×
image.png image.png 大家好,我用的是绿联 DH4300 Plus(RK3588 平台),分享一套我自己折腾的「AI 智能体 + 内网 + 向量外脑」方案,已经跑通了基础流程,也遇到了一个想和大家交流的问题。
一、我的实现方案
核心架构:Docker 内网互联
把 AI 智能体(QwenPaw)、Ollama、向量库(Qdrant)都加入同一个 Docker 内网,让 AI 能直接访问控制这些容器,打通沙盒隔离。
小白友好:不用手动配置复杂的 API 对接,把容器部署好、加进内网,剩下的交给 AI 自己识别连接;
权限可控:只有加入内网的服务才会被 AI 访问,从网络层面做了隔离。
向量外脑:给 AI 做 “意识备份”
在 Qdrant 中为 AI 建立独立的记忆集合,把它的对话记录、我的偏好、经验教训、关键决策日志都转成向量存进去,和普通知识库物理隔离。
核心优势:
灾难恢复:就算容器崩溃、重新部署,AI 也能 1 分钟内通过向量库找回所有记忆,不用重读几百个文件;
模糊检索:支持语义匹配,不用精准关键词,就能快速回忆之前的需求和偏好;
长期记忆:突破模型本身的上下文限制,把对话和经验永久保存下来。
二、目前的进度与瓶颈
已完成:核心记忆(我的偏好、硬件红线、决策记录)已经成功向量入库,AI 重启后可以直接恢复核心状态;
待迁移:历史对话和流水账文件正在分批后台处理;
目前遇到的问题:
本地用 RK3588 跑向量嵌入(Embedding)时,速度偏慢,大约 2 分钟 / 文件,全量跑完要 30-40 分钟。
我了解 RK3588 自带 NPU,理论上可以加速这类向量计算,但我作为小白,暂时不知道怎么在这套环境里启用 NPU 加速,只能用 CPU 跑。
三、求助与期待
这套方案已经实现了很多收费 “AI 外接脑” 的功能,而且对新手很友好,不用手动写复杂配置。
想在这里问问各位大佬:
绿联 UGOS Pro 下,怎么让 Ollama / 向量模型调用 RK3588 的 NPU?
有没有适配 RK3588 的轻量向量模型优化方案?

评论1

大学心情Lv.1绿联NAS社区会员用户 发表于 6 天前 | 查看全部 IP:–江苏–苏州
高端,需要你这样的大佬

评论

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Copyright © 2026 绿联NAS私有云社区 版权所有 All Rights Reserved. 粤公网安备44030002002555号| 粤ICP备12028978号
关灯 在本版发帖
联系技术支持
返回顶部
快速回复 返回顶部 返回列表