首页 > 福汇资讯

DeepSeek 发布开源项目 FlashMLA

文章来源：福汇下载发布时间：2025-04-05 15:44:56

2 月 24 日，DeepSeek 开源周第一个项目 FlashMLA 正式发布。

据官方介绍，FlashMLA 的灵感来自 FlashAttention 2&3 和 cutlass 项目。具体来说，FlashMLA 是一个针对 Hopper GPU 优化的高效 MLA（Multi-Head Latent Attention）解码内核，支持变长序列处理，现在已经投入生产使用。

FlashMLA 专门针对多层注意力机制进行了优化，能够加速 LLM 的解码过程，从而提高模型的响应速度和吞吐量，而这对于实时生成任务（如聊天机器人、文本生成等）尤为重要。简而言之，FlashMLA 是一个能让 LLM 模型在 H800 上跑得更快、更高效的优化方案，尤其适用于高性能 AI 任务。

目前，FlashMLA 已发布版本支持「BF16」与「分页 KV 缓存，块大小为 64」两个特征，其在 H800 上能实现 3,000 GB/s 的内存带宽与 580 TFLOPS 的计算性能。

FlashMLA 现已上架 GitHub。并且其在上线 6 小时，便收获超 5,000 的 Star 收藏，拥有 188 个 Fork（副本创建）。

此外，有专注于 AI 硬件研究的投资人通过新浪科技表示，本次 DeepSeek 发布的 FlashMLA 对于国产 GPU（显卡）而言，算是一次重大利好。

投资人分析，此前的国产 GPU 性能较弱，如今可以通过 FlashMLA 提供的优化思路和方法论，尝试让国产 GPU 大幅提升性能，即使架构不同，后面国产显卡的推理性能提升将是顺理成章的事儿。

Perplexity 官宣“Comet”浏览器，主打“AI智能体搜索”

上一篇: Perplexity 官宣“Comet”浏览器，主打“AI智能体搜索”

2 月 25 日消息，人工智能搜索引擎 Perplexity AI 进军浏览器市场，即将推出名为“Comet”的浏览器，致力于打造更贴近用户需求的搜索体验，并以“智能体搜索”为核心概念，但具体细节尚未…

网传“四川成都 30 所中小学将开启机器人授课”，官方回应称“消息不实”

下一篇: 网传“四川成都 30 所中小学将开启机器人授课”，官方回应称“消息不实”

2 月 25 日消息，据“抖音辟谣”官方号，近日，有自媒体账号发布虚假信息，称“成都 30 所中小学即将开启机器人授课”，引发网友热议。据悉，相应消息称“成都未来的课堂不再需要真人老师上课了”。对此…

相关攻略更多

热门福汇软件更多

最新资讯更多

公与媳中文字幕乱码的预防方法借鉴：从技术到日常操作的实用指南

公与媳中文字幕乱码的预防方法借鉴：从技术到日常操作的实用指南

福汇软件

更新时间：2025-06-06