Transformer 架构是什么,对AI发展的意义
一、Transformer 架构是什么? Transformer 是 Google 在 2017 年提出的一种深度学习模型架构,基于论文《Attention Is All You Need》。 其核心…
一、Transformer 架构是什么? Transformer 是 Google 在 2017 年提出的一种深度学习模型架构,基于论文《Attention Is All You Need》。 其核心…
一、LLM 的发展历程(按时代划分) 阶段 1:统计语言模型时代(1990s–2017) 这是 LLM 的“石器时代”,AI 不懂真正的语言,只能做数学统计。 代表模型 特点 阶段 2:预训练 + 微…
一、LLM 的科学解释 LLM(Large Language Model,大型语言模型)是一类基于深度学习 Transformer 架构的超大规模参数模型,通过在海量语料上训练,学习语言的统计结构,从…
RAG 的科学解释(Retrieval-Augmented Generation) RAG(检索增强生成)是一种将信息检索(Retrieval)与生成式模型(Generation)结合的混合式架构。 …