FlashAttention 原理与应用——泽微AI/泽微一号上的极限加速
🚀 性能的瓶颈：Transformer 中的 Attention 机制 自 Transformer 架构成为现 […]
企业动态 | 基础研究
最新发布
FlashAttention 原理与应用——泽微AI/泽微一号上的极限加速
🚀 性能的瓶颈：Transformer 中的 Attention 机制 自 Transformer 架构成为现 […]
StreamingLLM——泽微AI/泽微一号如何应对长序列 LLM 推理
🌊 无限长文本的挑战：LLM 的上下文窗口瓶颈 大语言模型（LLM）的实用性在很大程度上取决于其能够处理的上下 […]
在泽微AI/泽微一号上微调 Llama 2，打造专属企业模型
🏗️ 开源生态的力量：Llama 2 与垂直领域模型的崛起 自 Meta 发布 Llama 2 系列大语言模型 […]
GPT-4 时代的多模态挑战与泽微AI/泽微一号的算力支撑
🌐 跨越感知鸿沟：多模态大模型的崛起 自从 GPT-4 问世以来，AI 的发展再次迈入了新的里程碑——多模态（ […]
持续批处理 (Continuous Batching)——泽微AI/泽微一号如何最大化 LLM 推理吞吐量
💡 LLM 推理：效率与延迟的艰难平衡 大语言模型（LLM）的训练挑战巨大，但其推理（Inference）和部 […]
数据清洗是 LLM 的基石——泽微AI/泽微一号上的高效数据工作流
🏗️ 优质数据：大模型成功的隐形基石 在前面关于 LLM 的讨论中，我们重点关注了算力和模型结构。然而，所有这 […]