dsh-fs-encoding
为 DeepSeek Harness(DSH)提供文件编码守护:让 AI 读写 GBK 等非 UTF-8 文件和带 BOM 的文件时不会弄坏编码
- Stars
- 4
- Language
- TypeScript
- Created
- Sep 14, 2026
- Updated
- Sep 18, 2026
Introduction
dsh-fs-encoding — DSH 文件编码守护
为 DeepSeek Harness(DSH)提供的文件编码治理插件:让 AI 读写文件时不再弄坏 BOM 与多字节编码
🌏 中文 | English
dsh · dsh-plugin · plugin · encoding · BOM · GBK · Big5 · Shift-JIS · UTF-16 · AI agent · 编码 · 文件编码 · 乱码
简介
DSH 自带的 read / write / edit 三个文件工具只认 UTF-8,遇到中文、日文、韩文项目里常见的编码就会出问题:
- GBK、Big5、Shift-JIS 等编码的文件根本读不了,直接报
invalid UTF-8 text,AI 只能干看着; - 带 BOM 的 UTF-8 文件能读,但 BOM 会被悄悄吃掉——AI 随手改一次,文件开头那三个字节就没了。对 PHP、旧版编译器、部分 Windows 软件来说,文件头少了 BOM 就可能解析出错或直接乱码;
- 更麻烦的是没有任何警告:你只会在某天发现文件坏了,却不知道是哪次编辑弄坏的。
本插件接管这三个工具,在完整保留原有行为(沙箱围栏、读后写保护、版本校验、diff 展示)的前提下,让非 UTF-8 文件和 BOM 都能正确读写:文件原来是什么编码,改完还是什么编码。
功能特性
- 字节级保真:文件编码在首次读取时确定一次,之后每次保存都按原编码写回。改一个 GBK 文件,它仍然是一个 GBK 文件,不会被偷偷转成 UTF-8。
- BOM 保真:原本有 BOM 就精确还原,原本没有就绝不擅自添加——两个方向都不会出错。
- 换行符保真:CRLF / LF / CR 在读取时识别、保存时还原,Windows 项目不会被改成 LF。
- 绝不静默损坏:如果目标编码表示不了新内容(比如往 GBK 文件里写 emoji),插件会直接拒绝写入并说明原因,文件保持原样——而不是写进去一堆
?把文件毁掉。 - 读不了会告诉你怎么办:遇到非 UTF-8 文件时,插件会列出最可能的几种编码和各自的解码效果,AI(或你)选一个重新读即可,就像 VS Code 的「通过编码重新打开」。
- 十九种编码:UTF-8(含 BOM)、UTF-16、UTF-32,以及 GBK、Big5、Shift-JIS、EUC-KR 和 Windows-125x 全系(西欧、中欧、西里尔、希腊、土耳其、希伯来、阿拉伯、波罗的海)。
- 零学习成本:三个工具的参数、返回格式与原版完全一致,是直接替换,原有提示词和工作习惯都不用改;
read和write各多了一个可选的encoding参数(write的只用于新建文件,见下)。 - 能建指定编码的新文件:
write加一个encoding就能直接生成 GBK、Shift-JIS 等编码的文件,不用先写 UTF-8 再转码。 - 配置简单:一个 YAML 文件,几项开关,都能用环境变量覆盖。
使用
三个工具与原版用法完全相同,read 和 write 各多了一个可选参数:
read({ file_path: "legacy.txt", encoding: "gbk" })
不带 encoding 时插件会自动识别 UTF-8 文件、带 BOM 的 UTF-16 / UTF-32 文件以及 BOM 本身;只有无 BOM 的非 UTF-8 文件才会停下来问你,并给出候选:
[E_NOT_TEXT] legacy.txt is not valid UTF-8. Most likely gbk. Re-read with
read({ file_path: "legacy.txt", encoding: "gbk" }) to decode it, or set
autoGuessEncoding: true in the plugin config to decode automatically.
Candidates: gbk("你好,世界"), big5("斕疑"), shift_jis("ト羲")
照着提示里的调用重读一次,编码就从「猜测」变成了「已知事实」,后续写入都会按它进行。
无 BOM 的 UTF-16 / UTF-32 文件同理,用
read({ file_path: "<路径>", encoding: "utf16le" })显式指定即可正常读写(这类文件在 Windows 上较少见,且无 BOM 时无法可靠自动区分字节序,因此不做猜测)。
为什么默认要问你一下? GBK、Big5、Shift-JIS 的字节范围在短文本上互相重叠,猜错在界面上是看不出来的——而且会按错误的编码写回,把文件彻底弄坏。所以插件默认选择「宁可失败,不可猜错」。如果你更希望它尽力解码,把
autoGuessEncoding设为true即可。即使开了
autoGuessEncoding,也有一种情况仍然会报错并列出候选:文件极短(几个字节),且两个独立的识别器给出了不同的答案。此时没有任何依据能判断谁对——实测这种情况下的首选有约 79% 是错的——插件宁可让你从候选里挑一个,也不替你赌一把。只要两者给出相同的答案,就会直接采用;文件稍长一些(几十字节以上)也基本不会再出现这种歧义。另一种会报错的情况:识别器把文件判成了 ISO-8859-1 / Windows-1252 这类单字节编码,但按它解码出来的文本几乎全是非 ASCII 字符。真实的西文以字母和空格为主,不会长这样;而中文/日文/韩文/俄文的双字节被当成单字节读时,每个字符会变成两个拉丁字符,正好就是这个特征。这时插件不会采用这个判断,而是报错并列出候选——实测这一步能拦下 24 个本会被静默读错的文件,且不会误伤任何原本读对的文件。
新建指定编码的文件
默认新文件是 UTF-8(无 BOM)。要给旧系统生成一个 GBK 文件,加 encoding 即可:
write({ file_path: "run.bat", content: "echo 中文\r\n", encoding: "gbk" })
支持的编码名与 read 相同,别名和大小写都不敏感(cp936、Shift-JIS 都行)。名字里带 BOM 的(utf8bom、utf16le、utf16be、utf32le、utf32be)会写入对应的 BOM;其余都不写 BOM。编码表示不了的字符同样拒绝写入,不会写成 ?。
encoding只对新建文件有效。 文件已存在时传它会直接报错E_ENCODING_NOT_APPLICABLE,不会转换——因为「保持文件原有编码」是本插件的核心承诺,而转换会重写整个文件,AI 从返回结果里看不出区别。不要为了转换而先删除文件:删除会绕过「先读后写」闸门,让未读过的内容在返回结果里以before: null静默消失;而如果本会话读过该文件,删除后写入会一直失败FS_STALE_VERSION,该路径在本会话内再也建不回来。本插件不提供编码转换;确实需要一份另一种编码的副本时,请写到新路径上。
安装
⚠️ 冲突提示:任何在同一个作用域层注册
read/write/edit的插件都与本插件互斥——同一层重复注册同名工具会直接报错,所以只能启用一个。插件启动时若发现这三个名字已被同一层的其他插件占用,会拒绝安装并指出具体是哪个工具名被占了,不会留下半残的工具集。要解决冲突,要么从 profile 移除本插件,要么关掉那个占用了名字的插件:
# 在 profile 的 cordis.patch.yml 中 - id: <对方的插件 id> disabled: true注意:内建
read/write/edit位于更外层的宿主/preset 层,不构成冲突——本插件正是要在 agent 自己的层上覆盖它们,这与原生工具的 shadow 机制一致。
方式一:插件市场安装(dsh-market,推荐)
已安装 dsh-market(DSH 插件市场)的用户:打开 设置 → 插件市场(Plugin Market),搜索 dsh-fs-encoding,点卡片上的「安装」并按提示确认,安装完成后重启 dsh web。
市场卡片:https://awesome-dsh-plugin.com/p/MrWeiCodes/dsh-fs-encoding/
方式二:让 AI 安装(最简单)
把本仓库地址告诉 DSH 的 AI 助手即可,例如:「安装 https://github.com/MrWeiCodes/dsh-fs-encoding 这个插件」。AI 会替你完成插件装载、依赖与补丁处理;之后重启 dsh web。
方式三:从 npm 安装(推荐)
dsh plugin --profile web add dsh-fs-encoding
推荐这条路径的原因:npm 包里已包含编译好的 lib/,安装时不执行任何构建脚本——不受 pnpm 构建授权限制的影响,也不依赖你本地的编译环境。之后重启 dsh web。
方式四:从 GitHub 安装
dsh plugin --profile web add -w github:MrWeiCodes/dsh-fs-encoding
从 GitHub 装的是源码,lib/ 由 prepare 脚本现场编译,所以装完可能需要在 profile 的 pnpm-workspace.yaml 里放行构建脚本(pnpm 10 起默认阻止依赖执行构建脚本,按它打印的提示把那一行粘进去再重跑即可)。不想处理这一步就用「方式三」——npm 包已包含编译产物,没有这个环节。
从本地目录安装的已知问题:Windows 上若插件目录与 profile 不在同一个盘符(例如插件在
G:\、profile 在C:\),pnpm 会把file:依赖错误解析成C:\Users\<用户名>\...而安装失败。此时请改用「方式五」。
方式五:手动安装
无 pnpm 或离线环境时的备选路径:
- 把本仓库克隆到 profile 的插件目录,并在目标目录构建一次(
prepare脚本会生成lib/):# 示例:web profile $dst = "$HOME\.dsh\profiles\web\packages\dsh-fs-encoding" git clone https://github.com/MrWeiCodes/dsh-fs-encoding.git $dst cd $dst npm install # 同时触发 prepare → 生成 lib/ - 在 profile 的
package.json的dependencies中加入:"dsh-fs-encoding": "file:./packages/dsh-fs-encoding" - 把
cordis.patch.yml的内容并入 profile 的cordis.patch.yml(在文件末尾追加)。 - 重新安装依赖并重启:
pnpm install(或npm install)、dsh web。
更新
- 方式一(插件市场安装)的:在插件市场里点更新即可。
- 方式二(AI 安装)的:直接告诉 AI「更新 dsh-fs-encoding 插件」即可。
- 方式三(npm 安装)的:
然后重启dsh plugin --profile web add dsh-fs-encoding@latestdsh web。npm 路径同样不涉及构建步骤。 - 方式四(GitHub 安装)的:
若没有拉到最新提交(git 依赖有缓存),先移除再重新添加:dsh plugin --profile web add -w github:MrWeiCodes/dsh-fs-encoding
然后重启dsh plugin --profile web remove dsh-fs-encoding dsh plugin --profile web add -w github:MrWeiCodes/dsh-fs-encodingdsh web。更新到新提交后 commit 号会变,若 pnpm 再次要求放行构建,按方式四的说明重做一次即可。 - 方式五(手动)安装的:
然后重启cd "$HOME\.dsh\profiles\web\packages\dsh-fs-encoding" git pull # 或重新拷贝新版本覆盖 npm install # 依赖声明有变化时执行,同时重新触发 preparedsh web。
配置($DSH_HOME/plugins/dsh-fs-encoding/config.yaml)在更新后都会保留。
卸载
方式一(插件市场安装)的:插件市场卸载
打开 设置 → 插件市场,在 dsh-fs-encoding 卡片上点「卸载」(两步确认),本会话安装的插件会即时移除。
方式二(AI 安装)的:让 AI 卸载
直接告诉 AI 助手「卸载 dsh-fs-encoding 插件」,AI 会移除插件、清理补丁与依赖。
方式三(npm)/方式四(GitHub)安装的
dsh plugin --profile web remove dsh-fs-encoding
然后重启 dsh web。原生的 read / write / edit 会立刻恢复,无需任何额外操作。
方式五(手动)安装的
- 从 profile 的
cordis.patch.yml中删除本插件的insert行。 - 从 profile 的
package.json的dependencies中删除"dsh-fs-encoding": ...。 - 重新安装依赖并重启:
pnpm install(或npm install)、dsh web。
残留位置清单(AI 卸载时按此清理)
- 配置目录:
$DSH_HOME/plugins/dsh-fs-encoding/——$DSH_HOME默认是~/.dsh(Windows 下C:\Users\<用户名>\.dsh),插件的config.yaml保存在这里。卸载不会自动删除,如需彻底清理请手动删除整个目录。 - 插件目录(方式五安装时):
$DSH_HOME/profiles/<profile>/packages/dsh-fs-encoding/。 - 依赖与补丁(方式五安装时):profile 的
package.json中的"dsh-fs-encoding": ...依赖、cordis.patch.yml中的insert行。 - 无全局注册表、npm 全局包或系统级写入;插件不在会话日志里写入任何自有事件。
配置
默认配置就能用,通常不需要动它。 只有想调整「猜编码」的行为时才需要改。
配置文件位置(首次启动自动生成,内含完整注释):
$DSH_HOME/plugins/dsh-fs-encoding/config.yaml
全部选项
| 选项 | 默认值 | 作用 |
|---|---|---|
autoGuessEncoding | false | 遇到读不了的非 UTF-8 文件时:自动猜,还是报错让你选 |
normalizeToUtf8 | false | 保存时是否把 GBK 等老编码转成 UTF-8 |
supportedEncodings | 内置清单 | 参与自动猜测的编码清单 |
excludeEncodings | 空 | 从内置清单里去掉几个编码 |
maxFileBytes | 10 MiB | 单个文件的读取上限 |
常见需求(直接抄)
想让它自己猜,不要每次都来问我
autoGuessEncoding: true
想彻底告别编码问题(GBK 文件第一次保存后就变成 UTF-8)
normalizeToUtf8: true
某个编码老是猜错(例如西里尔文抢走了西欧文本)
excludeEncodings: [windows-1251]
编码清单:两个键有什么区别
插件内置一份用于自动猜测的编码清单。你可以做减法,也可以整个换掉:
| 你的需求 | 该用哪个 | 插件以后新增编码时 |
|---|---|---|
| 只想去掉一两个 | excludeEncodings | ✅ 仍然自动生效 |
| 想完全用自己的清单 | supportedEncodings | ❌ 收不到了 |
为什么建议优先用 excludeEncodings:supportedEncodings 一旦写上,就等于把清单冻结在你的配置文件里——插件以后支持了新编码,你也不会收到,而且它不会替你改回去(插件从不修改已有配置)。
清单只影响"自动猜测",不影响"能不能读"。 任何编码都可以显式指定读取,即使它不在清单里:
read({ file_path: "legacy.txt", encoding: "windows-1253" })
环境变量
适合临时测试或容器部署。环境变量始终优先于配置文件:
| 变量 | 对应选项 |
|---|---|
DSH_FS_ENCODING_AUTO_GUESS | autoGuessEncoding |
DSH_FS_ENCODING_NORMALIZE_TO_UTF8 | normalizeToUtf8 |
DSH_FS_ENCODING_SUPPORTED_ENCODINGS | supportedEncodings |
DSH_FS_ENCODING_MAX_FILE_BYTES | maxFileBytes |
excludeEncodings 没有环境变量——它是唯一只能在配置文件里写的选项。
normalizeToUtf8不会转换 UTF-16 / UTF-32 文件:它们本来就是 Unicode,强行转码反而会破坏依赖它们的程序。
支持的编码
| 类别 | 编码 |
|---|---|
| Unicode | utf8、utf8bom、utf16le、utf16be、utf32le、utf32be |
| 东亚 | gbk(含 gb18030、gb2312、cp936)、big5(含 cp950)、shift_jis(含 sjis、cp932)、euc-kr(含 cp949) |
| Windows ANSI | windows-1250(中欧)、windows-1251(西里尔)、windows-1252(西欧)、windows-1253(希腊)、windows-1254(土耳其)、windows-1255(希伯来)、windows-1256(阿拉伯)、windows-1257(波罗的海)——每个都可用 cp12xx 写法 |
| 其他 | iso-8859-1(含 latin1) |
关于
windows-1258(越南语):暂不支持。越南语需要组合字符(ế是一个码点、两个字节),而底层iconv-lite的单字节表无法拆分,67 个常用越南语字符中有 52 个会被编码成?。加入它会造成「文件读得出来却几乎存不进去」,反而更像 bug,因此暂时不开放。
这张表是"能读写",不是"会自动猜"。 自动猜测只用配置里的那一小份清单(默认 7 种),范围小是为了降低猜错率。表里其他编码照样能用,显式指定即可:
read({ file_path: "x.txt", encoding: "windows-1253" })。清单怎么调见上方配置。
编码名大小写与写法都兼容:Shift-JIS、shift_jis、SJIS 指的是同一个编码。
常见错误
| 报错 | 含义与处理 |
|---|---|
E_NOT_TEXT | 不是合法 UTF-8 且无 BOM。按提示用 read({ file_path: "...", encoding: "..." }) 重读,或开启 autoGuessEncoding。 |
E_UNMAPPABLE | 目标编码表示不了新内容(如 GBK 里的 emoji)。文件未被修改,请改用能表示该字符的编码,或先做 normalizeToUtf8 迁移(该迁移只作用于已有文件;新建文件请直接换一个编码名)。 |
E_BAD_ENCODING | 编码名不认识,改用上表里的名字。 |
E_ENCODING_NOT_APPLICABLE | 对已存在的文件传了 write 的 encoding。该参数只用于新建文件;文件会保持原有编码,未做任何改动。本插件不提供编码转换——不要为了转换而删除文件(见上文说明),需要另一种编码的副本请写到新路径。 |
E_DECODE_FAILED | 字节无法按指定编码解码,多半是编码选错了,换一个候选重试。 |
FS_STALE_VERSION | 文件在读取之后被改动过(或已被删除)。重新读一次再改,避免覆盖别人的修改。 |
FS_NOT_OBSERVED | 本次会话没有这个文件的编码记录,因此不能重写它:已存在的文件若本会话没读过(或记录已被回收),write 会拒绝而不是按 UTF-8 重写。先 read 一次再写;若它不是文本文件,本插件无法重写它。新建文件不受影响。 |
FS_EDIT_NOT_FOUND | 没找到要替换的 old_string,确认内容与缩进是否一致。 |
FS_AMBIGUOUS_EDIT | old_string 匹配到多处。补足上下文让它唯一,或加 replace_all: true 全部替换。 |
FS_SANDBOX_DENIED | 被 DSH 沙箱拦下(如写入工作区外的路径),属于原有安全策略。 |
兼容性与冲突
- 零侵入:插件只使用 DSH 的公开接口注册工具,不修改 DSH 原生代码,也不替换
ctx.fs文件系统本身;卸载后原生工具立即恢复,不留痕迹。 - 原有保障全部保留:沙箱围栏、读后写保护、版本校验、观察记录等原生行为一项不少——写入前该拦的照样拦,该问的照样问。
- 与任何注册同名工具的插件互斥:本插件在作用域层注册
read/write/edit,而同一层重复注册同名工具会直接报错,所以同时只能启用一个这类插件。判定依据是这三个名字在该 agent 自己的层上是否已被占用,与对方是谁无关——发现冲突即拒绝安装并指出被占用的工具名(见上方安装说明)。宿主/preset 层的内建工具不属于冲突。 - 会话状态:编码信息保存在内存中、按会话隔离,不写入磁盘、不污染仓库。DSH 重启后首次读取会重新识别编码。
开发
npm install
npm run typecheck # 对 src 与 test 跑 tsc --noEmit
npm test # 运行测试套件
npm run build # src/ → lib/
测试既覆盖编码算法本身,也用真实的文件系统与沙箱组件做集成验证,包括全部编码的字节级往返、BOM / CRLF 保真、不可映射字符拒绝、陈旧写入拒绝与沙箱围栏。
如需自定义插件功能或修改插件,直接使用 DSH 的 Creator mode 即可快速进行开发修改。
路线图
第二阶段(尚未实现):undo_last_edit 与 str_replace_editor。