把 Qwen3-VL 塞进 RK3588:一次端侧 VL Agent 的小实验
昨天刷到一个 AI 移动硬盘的广告,结合前段时间老板和我说的 AI NAS,本来没怎么放在心上,因为我本身不会是前者的客户,后者又不是小公司能做的,不过整理硬件的时候,发现一个 Frefly 的 RK3588 盒子,灵机一动、RK3588 有 NPU,理论肯定有人做这个端侧LLM 的推理。 ...
昨天刷到一个 AI 移动硬盘的广告,结合前段时间老板和我说的 AI NAS,本来没怎么放在心上,因为我本身不会是前者的客户,后者又不是小公司能做的,不过整理硬件的时候,发现一个 Frefly 的 RK3588 盒子,灵机一动、RK3588 有 NPU,理论肯定有人做这个端侧LLM 的推理。 ...
今天在看 codex 的 system prompt 看到对 codex 的要求是 优先用 rg,我只知道这个工具比 grep 快,似乎是个现代化的 grep,那得学,我是现代人。 参考了几篇文章:Levon 的 文本搜索神器rg的使用教程、Autumn Skerritt 的 Ripgrep cheatsheet、Marius Schulz 的 Fast Searching with ripgrep,以及官方的 ripgrep README 和 User Guide。 这篇不是全文搬运。我只是把我最可能用到的东西重新按自己的脑回路记一遍。 ...
先说结论: 服务没有开放 80/443 端口时,不能直接走依赖 80 端口的 HTTP-01 验证。这次我改用 acme.sh + Cloudflare DNS Challenge 申请泛域名证书,再通过 --install-cert 写回 Nginx 挂载目录,并在续期后自动重启容器。 背景 我有一套自建的 Docker Registry Proxy 服务,可看这篇博客:docker 自建镜像加速,用来代理 Docker Hub、GHCR、Quay、GCR、K8S、MCR、NVCR 等镜像源。 ...
看到个项目,code graph,顾名思义应该是把项目代码给构建成图谱,拖延到今天来实测一下效果 仓库地址:GitHub - colbymchenry/codegraph: Pre-indexed code knowledge graph for Claude Code, Codex, Gemini, Cursor, OpenCode, AntiGravity, Kiro, and Hermes Agent — fewer tokens, fewer tool calls, 100% local · GitHub 安装 code graph mac 安装命令 zsh 1 curl -fsSL https://raw.githubusercontent.com/colbymchenry/codegraph/main/install.sh | sh 安装 MCP 配置 初始化项目 进入一个最近在开发的目录,开始索引 ...
今天写 mitmproxy 那篇的时候,顺手试了一下一个很有意思的 skill,分享一下: helloianneo/ian-xiaohei-illustrations,好多天前关注的,忘了是在哪看到的,发现最近热度蛮高。 截止写本文,作者在群里分享,它在这周 GitHub 新仓库搜索结果里排第二。 这个仓库名字很直白,就是 Ian(作者) 风格的小黑怪诞正文配图生成 Skill。 本质上它不是一个很复杂的项目。甚至可以说,它简单到让我有点恍然大悟:哦,我之前每次都开着语音和叫 image2 生图其实可以做的优雅一些。 ...