开发者 WollyMonjac 打造了 Tiny 2.1 微型 Transformer 模型,成功把整套程序和模型权重放进一张软盘,能直接在搭载 DOS 系统的 486DX、Pentium 老式电脑上跑问答 AI,核心思路就是砍掉冗余结构、用 8 位量化压缩权重、精简训练数据集,先基于标准 Transformer 架构做轻量化改造,再用 Turbo C 2.0 编写适配 DOS 的底层代码,最后把全部文件控制在软盘容量以内,实现不用硬盘、不用显卡,单软盘启动就能完成字符问答。这个项目不是要替代现在的大模型,更多是一次极限工程实验,用来测试 Transformer 架构的体积下限,整套模型权重只有 380KB,加上程序界面整体打包后适配软盘,老机器只要留出 540KB 常规内存就可以加载运行,还自带 PC 喇叭语音朗读、可视化神经网络界面。
一、微型 Transformer 模型核心参数表
| 项目 | 参数详情 |
|---|---|
| 模型名称 | Tiny 2.1 |
| 架构 | Transformer,4 层结构,隐藏维度 96 |
| 参数量 | 36.7 万 |
| 权重大小 | 380KB,8 位量化 |
| 运行环境 | MS-DOS,486DX / Pentium 处理器 |
| 最低内存要求 | 540KB 常规内存 |
| 训练素材 | 约 3500 条事实类问答数据 |
| 输入输出方式 | 逐字符生成文本 |
二、微型 Transformer 模型压缩落地关键手段清单
- 量化压缩:权重采用 8 位量化,每行搭配单独缩放系数,大幅降低存储开销
- 结构极简:只保留基础 Transformer 编码器解码器,去掉 MoE、多头超大维度等复杂模块
- 代码适配:Turbo C 2.0 原生开发,适配 DOS 内存模型,减少运行时开销
- 数据集精简:只训练少量事实问答,控制模型记忆体量
- 打包优化:程序、权重、界面资源合并,整体控制在软盘容量上限内
三、软盘运行这套微型 Transformer 模型的操作步骤
- 准备载体:标准 1.44MB 软盘,写入 Tiny 2.1 全部文件
- 硬件准备:486DX 或 Pentium 老式 PC,启动进入 MS-DOS 系统
- 加载程序:在 DOS 下读取软盘内程序,分配 540KB 可用常规内存
- 模型载入:读取软盘上 380KB 权重文件,完成微型 Transformer 初始化
- 交互问答:输入问题,模型逐字符生成回答,支持 PC 喇叭语音播报
- 实时查看:界面可以实时显示网络层数、置信度、生成速度
四、能力边界说明
- 它属于微型问答 Transformer,不是大语言模型,能力很有限
- 只熟悉训练过的 3500 条事实,超出范围容易编造错误答案
- 没有复杂推理、长文本创作能力,主打复古硬件上的 AI 演示
【相关 FAQ】
问题 1:塞进软盘的微型 Transformer 模型 Tiny 2.1,参数量和体积是多少?
回答 1:塞进软盘的微型 Transformer 模型 Tiny 2.1 参数量 36.7 万,模型权重 380KB,整体打包后可以存放在一张 1.44MB 软盘里面,适配 DOS 老式电脑运行。
问题 2:开发者把微型 Transformer 模型塞进软盘,主要是靠哪些压缩手段?
回答 2:开发者把微型 Transformer 模型塞进软盘,主要依靠 8 位量化压缩权重、精简 Transformer 网络层数、使用 Turbo C 2.0 轻量化编码、压缩训练数据集这几项手段,把整套 AI 控制在软盘存储上限里。
问题 3:软盘里的微型 Transformer 模型 Tiny 2.1,能在什么电脑上跑?
回答 3:软盘里的微型 Transformer 模型 Tiny 2.1 支持 MS-DOS 系统,最低可以在 486DX、Pentium 老式处理器电脑运行,需要预留 540KB 常规内存。
【参考资料】
[2026-11-22](开发者将微型 Transformer 模型塞进软盘,让 486 老电脑也能用上 AI)IT 之家
[2026-11-21](We’ve Found the Only Good AI Chatbot: One So Tiny It Fits on a Single MS-DOS Floppy Disk)Futurism
[2026-11-18](Tiny Language Model Fits On Floppy Disk: Breakthrough AI)Techswire
[2026-11-16](Someone used Claude to build an AI chatbot for MS-DOS, and it fits on a floppy)Simon Batt
[2026-11-15](A DOS language model built with Claude fits on a 435 KB floppy)pasqualepillitteri.it
【免责声明】
本文内容仅为 AI 技术趣味项目解读,软盘内微型 Transformer 模型 Tiny 2.1 属于实验性项目,问答准确率有限,不适合用于生产、商用场景;项目源码、运行兼容性以开发者 GitHub 主页发布版本为准,不构成技术选型、采购建议。
本文来自作者[小橘]投稿,不代表新品牌网立场,如若转载,请注明出处:https://www.china12315.com.cn/ppzx/202611/2224.html
评论列表(4条)
我是新品牌网的签约作者“小橘”!
希望本篇文章《开发者把微型Transformer模型塞进软盘》能对你有所帮助!
本站[新品牌网]内容主要涵盖:互联网行业的追踪与探索
本文概览:开发者 WollyMonjac 打造了 Tiny 2.1 微型 Transformer 模型,成功把整套程序和模型权重放进一张软盘,能直接在搭载 DOS 系统的 486DX、Pentium 老式电脑上跑问答 AI,核心思路就是砍掉冗余结构、用 8 位量化压缩权重、精简训练数据集,先基于标准 Transformer 架构做轻量化改造,再用 Turbo C 2.0 编写适配 DOS 的底层代码,最后把全部文件控制在软盘容量以内,实现不用硬盘、不用显卡,单软盘启动就能完成字符问答。这个项目不是要替代现在的大模型,更多是一次极限工程实验,用来测试 Transformer 架构的体积下限,整套模型权重只有 380KB,加上程序界面整体打包后适配软盘,老机器只要留出 540KB 常规内存就可以加载运行,还自带 PC 喇叭语音朗读、可视化神经网络界面。