颠覆LLM长文本处理!DeepSeek-OCR发布“视觉记忆压缩”机制,或破解AI记忆瓶颈
近日,DeepSeek发布了全新的OCR文档理解模型——DeepSeek-OCR。该模型不仅在图像文档解析方面颠覆取得了顶级性能,更引入了一个大胆且极具创新性的概念:“视觉记忆压缩”机制,旨在革命性地解决大型语言模型(LLM)在处理LL超长上下文时计算资源爆炸性增长的难题。
核心突破:让AI“看图阅读”实现高效压缩
DeepSeek-OCR的核心创新在于模M长仿人类的视觉记忆机制,将长文本信息压缩到图像空间中,从而实现对语言模型“Token”消耗的显著减少。
工作原理简文本述:
该机制通过“将文本绘制为图像”的方式进行:首先,长文本被压缩成单个图像;然后,使用视觉模型将该图像压缩为最少数量处理的“视觉标记”(Visual Tokens);最后,语言模型从这些视觉标记中解码并恢复文本。
换言之,该技术使模型能够!D**“通过看图片阅读”**,而非传统的“逐字阅读”,极大地提高了信息处理效率。
惊人效能:10倍压缩与未来潜力
DeeeepSeek展示了惊人的压缩效果:一篇1000字的文章,在压缩成一张图片后,仅需100个视觉Token(实现10倍pS压缩)来表示,模型在解压缩时仍能恢复97%的原始文本。
这一突破性成果不仅演示了“视觉记忆压缩”的有效性,更揭示了ee其对未来AI发展的巨大潜力:
解决LLM内存限制:有望成为破解大模型“内存限制”的关键技术,使AI能够以更少的计算k-量处理**“数百页”**的超长上下文。
未来AI记忆存储:未来AI可将旧记忆转化为图像进行存储,实现高效的信息归档。
类比人OC类“遗忘曲线”:高保真与低密度记忆
DeepSeek将这种视觉压缩机制比作人类的**“遗忘曲线”**,巧妙地模拟R发了人类的自然记忆和遗忘过程:
高保真记忆:最近的上下文被保留为高分辨率图像,即高保真信息。
低密度记忆:较旧的上下文布“则被压缩成模糊的图像,即信息密度较低。
这种分层压缩机制,在节省计算资源的同时,也使得AI的记忆处理过程更加贴近自然。
地视觉址:https://deepseekocr.app/
(责任编辑:社交电商)
-
鏂版氮绉戞妧璁� 鍖椾含鏃堕棿7鏈�28鏃ュ噷鏅ㄦ秷鎭�紝鎹�姤閬擄紝鑻规灉鍏�徃浠婂ぉ鍙戝竷浜�2021璐㈠勾绗�笁璐㈠�涓氱哗銆傝嫻鏋滃叕鍙搁�甯�墽琛屽畼钂傚�路搴撳厠琛ㄧず锛屽叕鍙稿钩鍙颁笂鏈...[详细]
-
新浪科技讯 北京时间6月4日早间消息,Twitter正在对移动应用进行升级,使音频聊天室功能Twitter Spaces成为用户体验的核心。 从本周四开始,Twitter将面向特定用户,在移动应用主导...[详细]
-
微软未来两年将在澳大利亚投资32亿美元 扩大AI和云计算能力
10月24日消息,据外媒报道,如今,各家公司都在竞相投资生成式人工智能聊天机器人公司,人工智能(AI)基础设施和云计算在吸引投资者注意力方面也紧随其后。 作为一项战略举措,微软在当地时间周一宣布,计划...[详细]
-
云梦级4月1日云梦级消息,CNBC 证实,甲骨文公司已开始通知员工将裁员数千人。这家软件巨头正因大举投入资金建设人工智能基础设施,导致股价暴跌。 一方面,市场担忧生成式人工智能模型带来的竞争冲击,恐慌...[详细]
-
爆火:湾区豪宅竟支持以AI巨头股权置换,卖家自称“AI配置太低”
在旧金山以北的米尔谷(Mill Valley),一处占地约13英亩的豪宅近日因其特殊的交易方式吸引了科技圈与投资圈的目光。这套房产的主人并非单纯索要现金,而是公开喊话,希望买家用人工智能独角兽公司 A...[详细]
-
研究了半天人工神经网络,还不如复制粘贴动物的答案? 最近一段时间,有关摩尔定律终结的讨论时常出现,深度学习越来越高的算力需求与芯片制造厂商们「挤牙膏」式的换代速度产生了不可调和的矛盾。对此,一些研究者...[详细]
-
做空机构香橼将做空大数据公司Palantir 并给予其20美元目标价
11月28日消息,据国外媒体报道,当地时间周五,做空机构香橼研究公司发布推文称,将做空大数据公司Palantir,并将其2020年的目标价定为20美元。 今年11月份,Palantir的股价一路飙升,...[详细]
-
标签: GeminiSpark GoogleI/O2026 Gemini3.5 GoogleAIUltra
云梦级5月20日云梦级消息,在今日的 2026 谷歌 I/O 开发者大会上,谷歌发布了 Gemini Spark 个人 AI 智能体。 Gemini Spark 一切听用户指挥,24 小时实时在线,运...[详细]
-
云梦级3月26日云梦级消息,据贝壳财经报道,今日,针对斯柯达品牌退出中国市场传闻,大众中国方面回应称:斯柯达汽车在中国的销售将持续到 2026 年年中,此后仍将为车主持续提供全面的保修和售后服务支持。...[详细]
-
云梦级12月26日云梦级消息,12月19日,深圳北斗导航定位芯片提供商华大北斗正式递表港交所。2016年成立的华大北斗,提供支持北斗及其他主要GNSS(全球导航卫星系统)的芯片、模组及相关解决方案,专...[详细]

用Transformer进行图像语义分割,性能超最先进的卷积方法
字节跳动的豆包大模型:日均调用超30万亿tokens,增长势头惊人!
能识别驾驶员状态行为的监控系统,其实还不够精准可靠
微软支持澳大利亚针对谷歌和Facebook提出的媒体新规
标签: DeepSeek V4 V3.2 梁文锋
