第二部分 看懂大模型04
模型的六种类型与开源闭源
入门20 分钟第 4 / 19 章
文本、图片、视频、语音合成、语音识别、向量——六种模型输入输出和计费单位各不相同。再分清推理模型、普通模型、开源与闭源,选型表格就填出来了。
学完本章你能做到
- 列举六种模型类型及其典型用途与计费单位
- 判断一个任务该用普通模型还是推理模型
- 说出开源与闭源各自的代价,以及自部署何时划算
学习与练习
从课程目录定位知识点,按章节完成练习,随时接着上次继续。
先理解
六种模型,六种输入输出
「模型」不只有聊天机器人一种。按输入输出分六大类:
文本模型:文字进、文字出。对话、写作、翻译、写代码的主力,按 token 计费。
图片生成模型:文字进、图片出。海报、插画、配图,按张计费。
视频生成模型:文字或图片进、视频出。目前按秒计费,成本最高的一档。
语音合成:文字进、语音出。配音、播报,按字符或秒计费。
语音识别:语音进、文字出。会议转写、字幕,按时长计费。
向量模型(embedding):文字进、一串坐标出。不给人看,专供检索系统判断「意思是否接近」,第十一章的主角。
同一款产品背后常常是几种模型的接力:语音会议助手先跑识别、再跑文本总结、最后合成纪要语音。
六种模型的输入输出速记表:
文本模型 → 文字 → 文字(按 token 计费)
图片生成 → 文字 → 图片(按张计费)
视频生成 → 文字/图片 → 视频(按秒计费,最贵)
语音合成 → 文字 → 语音(按字符/秒计费)
语音识别 → 语音 → 文字(按时长计费)
向量模型 → 文字 → 一串坐标(供检索用,最便宜)
对照看
推理模型与普通模型:深度思考要多花钱
推理模型(reasoning model)回答之前,会先生成一段不展示给你的内部推理,想清楚了再作答。代价是时间更长、token 更贵——那些「看不见的思考」也是照常计费的。
它值得花的场景:数学计算、多步逻辑推理、复杂规划、疑难 bug 定位。
不值得的场景:日常问答、格式转换、文风润色。这类任务普通模型又快又好,开深度思考纯属浪费。
判断口诀:任务需要「想清楚才能答对」时才用推理模型。拿不准时,同一道难题两个模式各跑一次,对比质量和耗时,你就有体感了。
先理解
开源与闭源:权重公开意味着什么
开源模型指权重文件公开发布,你可以下载到自己机器上运行。它换来的是数据不出门、用量不限、可以魔改;代价是机器要自己买、效果要自己调、安全补丁要自己盯。
闭源模型通过 API 使用。能力强、更新快、零运维;代价是数据按对方政策处理、单价长期累积、厂商停服或涨价你没有太多办法。
什么时候自部署才划算?三个条件同时满足:数据敏感必须本地化、调用量大到 API 账单可观、团队有能力维护 GPU 服务。缺任何一条,API 都是更好的起点。
填写你的第一张选型表
假设你要做一个「会议录音转写并生成纪要」的小工具,把选型表填完。
- 1列出需要的模型类型(至少两种)和各自的计费单位
- 2判断纪要生成环节该用普通模型还是推理模型,说明理由
- 3如果你的客户是律所,开源闭源的结论会变吗?
验收清单
- 能说清每种模型的输入输出与计费方式
- 能给出推理模型的使用判据
- 能说明数据敏感度如何改变部署决策
小贴士把六种类型当成积木而非考题。设计任何 AI 功能时,先拆成「要几种模型接力」,成本和延迟的轮廓立刻浮现。
小贴士试着拆解你手机上任何一个 AI 功能——语音助手背后至少三种模型在接力:语音识别 → 文本理解 → 语音合成。
常见问题
参数量越大越好吗?
下一章专门讲。先剧透结论:参数量大意味着知识容量和运行成本更大,但不等于在你的任务上更好——小模型在窄任务上反超巨无霸是常态。
学完后记得保存进度
完了マークはこのブラウザーに保存されます。ログインすると、前回の章と読書位置を記憶します。