从真实工具内容中提炼高频术语,解释概念、工作方式和适用边界。
BERT (Bidirectional Encoder Representations from Transformers)
BERT 是谷歌 2018 年提出的预训练语言模型:用"掩码语言模型+双向Transformer"在大规模语料上预训练,开创了"预训练+微调"范式,是 NLP 进入大模型时代的标志。
Backpropagation
反向传播(Backpropagation)是神经网络训练的核心算法:从输出层向输入层逐层反向计算损失对各层参数的梯度,让梯度下降能高效更新深层网络的每一层参数。