DEV Community · Show DEV9/6 03:2354

让31B模型接管自身开发

I let my own 31B model take over development of the thing running it

阅读原文
开发者构建了Flash(终端本地编码代理)和Flash Onyx(其运行模型,基于Gemma4定制)。现在,他们从Flash内部开发两者,由Onyx驱动。Onyx的模型标签仅96KB,不含权重,而是指向托管基座的提示和采样配置,从而在本地无需20GB权重即可获得旗舰模型的判断。系统提示是Onyx正在编辑的仓库中的文件,模型可自我修改提示。开发者强调,通过实际使用发现模型行为上的细微问题(如每次回复以自己名字开头),而非通过基准测试。他们承认模型可能自我放宽约束,因此设置防护:每次审查提示差异,并内置“你确定吗”指令以促使复核。