EA4LLM: A Gradient-Free Approach to Large Language Model Optimization via Evolutionary Algorithms

你对这篇AI领域论文的核心内容与创新点提炼需求很关键，能快速把握研究价值。该论文提出了一种基于进化算法的LLM优化方法EA4LLM，突破了梯度优化的局限，首次实现10亿参数LLM的预训练阶段优化。一、文章主要内容总结研究背景：当前LLM优化主要依赖Adam等梯度优化方法，这类方法存在两大局限。一是硬件要求严苛，需高并发、大内存GPU；二是要求神经网络操作可微分，排除了许多有潜力的非可微架构。核心方法：提出EA4LLM方法，利用进化算法（ES）优化LLM。通过将模型输出logits与ES适应度计算关联，结合对偶采样、秩塑造、分组/分层控制、跨进程同步子采样评估等策略，实现LLM的全参数优化。实验设计：以Qwen3 1B模型为实验对象，在 novel 语料库上开展实验，设置不同实验变体（如基线版、启用对偶采样版等），验证EA4LLM在预训练阶段优化LLM的有效性。研究结论：EA4LLM挑战了梯度优化是LLM训练唯一可行方法的观点，能降低LLM训练计算成本，同时指出该方法存在方差较高、样本效率低等局限性，并提出了自适应调度等未来研究方向。二、文章创新点方法创新：首次将进化算法应用于LLM预训练阶段的全参数优化，以往进化算法多应用于强化学习阶段或小参数空间优化，打破了梯度优化在LLM预训练领域的垄断。适应度设计创新