推理引擎·4 天前
在 Game Boy Color 上跑 Transformer 语言模型
开发者将 Andrej Karpathy 的 TinyStories-260K 模型移植到原版 Game Boy Color 上运行。模型权重转为 INT8 定点数,通过 GBDK-2020 编译为 MBC5 卡带 ROM。权重存储在 bank-switched 卡带 ROM 中,KV cache 写入卡带 SRAM(因 GBC 工作 RAM 极小)。用户在设备上用 D-pad 和屏幕键盘输入提示词,在 GBC 上完成 tokenize、prefill 和自回归生成。由于重度量化与近似计算,输出为乱码,但核心链路跑通。项目使用 Codex 辅助生成大量代码。