把 Claude 变成 Excalidraw 助手:AI 绘图协作新思路

将Claude接入Excalidraw,让用户通过自然语言对话驱动白板绘图,降低架构图与流程图的创作门槛。
这篇文章介绍了一个将Anthropic的Claude大语言模型接入开源白板工具Excalidraw的开源探索项目。其核心价值在于打通「自然语言」与「可视化画布」之间的壁垒:用户无需手动拖拽对齐,只需用对话描述需求,AI便可生成或迭代修改画布中的图形元素。技术上的关键挑战包括:将画布状态序列化为模型可理解的结构化JSON、通过提示词约束减少布局错误、以及维护多轮交互的上下文闭环。文章同时指出该方向面临的现实局限——复杂图表的布局质量不稳定、大规模图形的精确控制不如手动操作,以及接入外部API与Excalidraw本地优先理念之间的张力。整体而言,这一项目折射出AI从独立对话框向各类生产力工具内部深度嵌入的行业趋势。
当 AI 走进白板绘图工具
Excalidraw 是近年来广受开发者和产品团队欢迎的开源白板工具,以手绘风格、简洁交互和本地优先的数据处理著称。一个来自 Hacker News 的项目提出了一个有趣的方向:把 Anthropic 的 Claude 接入 Excalidraw,让 AI 成为绘图过程中的协作助手。
这类尝试的核心价值在于把「自然语言」与「可视化画布」连接起来。传统上,绘制流程图、架构图或原型草图需要用户手动拖拽、连线、对齐元素。而当 Claude 具备理解画布内容与生成图形指令的能力后,用户可以通过对话来创建、修改甚至重排图形。

这个想法解决了什么问题
在实际工作流中,绘图的门槛往往不在「想法」,而在「动手实现」。把脑海中的系统架构落到画布上,需要反复调整位置、样式和连接关系。让 Claude 充当助手后,几个典型场景变得更顺畅:
从文字到图形
用户用一句话描述需求,例如「画一个包含前端、API 网关、数据库的三层架构」,AI 便可生成对应的 Excalidraw 元素结构。这把绘图从「操作」转变为「表达」,降低了非设计背景用户的使用成本。
这一模式在技术上依赖大语言模型的「结构化输出」能力——即让模型不返回自然语言描述,而是直接输出符合特定 Schema 的 JSON 数据。Anthropic 为 Claude 提供了 Tool Use(工具调用)接口,开发者可以预先定义好 Excalidraw 元素的数据结构作为工具参数,Claude 在响应时会填充具体的坐标、尺寸、颜色和连接关系,而非用文字描述"画一个矩形"。这种约束式生成比自由文本输出更稳定,也更容易做格式校验和错误回退。
迭代式修改
绘图很少一次成型。借助对话式交互,用户可以持续下达「把数据库换成集群」「给这三个节点加上分组框」等指令,AI 在已有画布基础上做增量调整,而非从零重画。
结构化理解
Excalidraw 的场景数据本质上是结构化的 JSON,这与大语言模型擅长处理的结构化文本高度契合。Claude 可以读取现有画布状态,理解元素之间的关系,再输出符合格式的修改结果。
Excalidraw 的 JSON 格式中,每个元素包含 id、type、x、y、width、height 等基础字段,箭头元素通过 startBinding 和 endBinding 引用其他元素的 id 来表达连接关系。当画布内容传入 Claude 时,模型实际上是在阅读一份描述图形拓扑的结构化文档。对于包含数十个节点的复杂图表,整个 JSON 的 token 数量可能相当可观,这也是为什么「多轮交互闭环」需要做上下文压缩或仅传递变更 diff,以控制每次请求的成本和延迟。
技术实现的关键点
要让 Claude 真正成为可用的助手,而非只是生成一段无法落地的描述,实现层面需要处理几个环节:
首先是画布状态的序列化与反序列化。Excalidraw 使用一套元素模型(矩形、箭头、文本、绑定关系等),AI 需要以这套模型作为输入和输出的「语言」,才能保证生成结果可以直接渲染。
其次是提示词工程与约束。直接让模型自由生成坐标和样式,容易出现元素重叠、连线错位等问题。通常需要给模型提供画布规范、布局约定,甚至借助中间层做坐标校正与自动对齐。
最后是交互闭环。理想的助手需要「看得到」用户当前的画布,并在每次修改后更新上下文,这样才能支持多轮连续的编辑,而不是每次都基于孤立的指令。
开源生态中的位置
这个项目目前在 Hacker News 上的关注度还比较有限(约 5 分、1 条评论),属于早期探索阶段。但它折射出一个正在快速形成的趋势:AI 正在从独立的对话框,逐步嵌入到各类生产力工具的工作流内部。
从 Excalidraw 这类开源白板,到设计工具、笔记应用和 IDE,「AI 助手嵌入现有工具」的模式相比「另起炉灶造新工具」有明显优势——它复用了用户已有的习惯和数据,改造成本更低,也更容易被采纳。
值得关注的局限
客观来看,这类项目仍面临不少挑战。AI 生成的图形布局质量参差不齐,复杂图表往往需要人工二次调整;对话式绘图在简单场景高效,但当图形规模变大时,精确控制反而不如直接手动操作。此外,接入外部 AI 也带来数据隐私和 API 成本方面的权衡,这对 Excalidraw 一贯强调的「本地优先」理念是个需要平衡的点。
对于想尝试的开发者,这仍是一个值得跟进的方向。随着模型对结构化输出和多模态理解能力的增强,「用嘴画图」的体验有望进一步成熟。
布局质量问题的根源在于大语言模型本质上是概率性文本预测模型,并不具备空间几何推理能力。它很难在没有外部辅助的情况下保证节点不重叠、箭头不交叉、整体对称美观。业界常见的缓解方案包括:在提示词中注入网格对齐规则、限制坐标取值为固定步长的倍数,或在模型输出后用程序化布局算法(如 ELK、Dagre)对坐标进行二次计算。这些后处理步骤能显著提升生成质量,但也增加了工程复杂度。
相关推荐

Cloudflare开源AI代码安全审计工具,获6万星
Cloudflare开源Security Audit,为AI编码Agent提供免费安全审计。三步工作流:应用测绘、多Agent对抗找Bug、三级分类报告,源自内部漏洞狩猎系统,近6万星标。

GPT-6 Astra读权重绝技:仅限小网络,实用靠写代码
GPT-6 Astra能直接读网络权重,但无工具设置仅限约17万权重的小网络。修复QUEN 3.5 0.8b推理循环靠写Python和50批练习,实测识别游戏耗时近一小时。本文梳理能力边界与两个安全提醒。

GPT-6 Astra 改写 Qwen 权重:7.9% 到 48.1%,是学会了数学还是学会了停?
MIT研究者用GPT-6 Astra直接编辑Qwen权重,数学得分从7.9%升至48.1%,全程无训练。但独立复现显示,提升主要来自修复循环、让模型学会终止作答,而非新增数学能力。