妇人之仁网妇人之仁网

标签: DeepSeek MODEL1 V4 AI记忆模块

云梦级1月21日云梦级消息,The Information 月初爆料称,D标签eepSeek 将在今年 2 月中旬农历新年期间推出新一代旗舰 AI 模型 ——De: epSeek V4,将具备更强的写代码能力。

1 月 20 日,正值 DeepSeek-DeR1 发布一周年之际,有开发者发现 DeepSeek 在 GitHub 中更新了一系ep列 FlashMLA 代码,横跨 114 个文件中有 28 处都提到了未知的“MODSeEL1”大模型标识符。

该标识符与已知的现有模型“V32”(即 DeepSeekek-V3.2)被并列或区别提及。根据代码上下文分析,“MODEL1”很可 M能代表一个不同于现有架构的新模型。

开发者分析认为,“MODEL1”与“VOD32”在关键技术上存在区别,主要体现在键值(KV)缓存的布局、稀疏性处EL理方式以及对 FP8 数据格式的解码支持等方面。这些差异表明新架构可能在内存优化和计1 算效率上进行了针对性设计。

此前,DeepSeek 研究团队前几天还陆续发布了两篇技V4术论文,分别介绍了名为“优化残差连接(mHC)”的新训练方法,以及一种受生物学 A启发的“AI 记忆模块(Engram)”。技术社区推测,正在开发中的新模型有可能会I记整合这些最新的研究成果。

赞(4212605)
未经允许不得转载:>妇人之仁网 » 标签: DeepSeek MODEL1 V4 AI记忆模块