2025大模型发展回顾、国内外大模型进展及未来研判分析报告  

导读： 2025年，大模型领域迎来了飞速发展，技术革新不断推动着人工智能的边界。从国内到海外，各大科技巨头和初创企业纷纷在大模型赛道上加速布局，降本提效成为主旋律，模型性能和应用场景不断拓展。

大模型的发展离不开Transformer架构的出现。2017年，谷歌团队提出Transformer模型，其自注意力机制克服了传统循环神经网络（RNN）在处理长文本时的局限性，标志着自然语言处理（NLP）领域的分水岭时刻。Transformer架构的核心在于其编码器（Encoder）和解码器（Decoder）模块，以及多头注意力层和前馈神经网络层，这些设计使得模型能够高效地处理长文本序列，并捕捉复杂的语言模式。

此后，预训练Transformer模型时代开启。2018年，谷歌推出BERT模型，采用双向训练方法，显著提升了语言理解任务的性能；同年，OpenAI发布GPT模型，凭借自回归预训练强化了文本生成能力。2020年，OpenAI推出GPT-3，其1750亿参数规模开启了预训练侧的Scaling law叙事，展示了模型性能随参数规模、数据集大小和计算量增加而提升的规律。