天天讯息:批量算法
(资料图片仅供参考)
1、 机器学习算法和一般优化算法不同的一点是,机器学习算法的目标函数通常可以分解为训练样本上的求和。
2、使用整个训练集的优化算法被称为批量(batch)或确定性(deterministic)算法,因为它们会在一个大批量中同时处理所有样本。
3、这个术语可能有点令人困惑,因为这个词“批量”也经常被用来描述小批量随机梯度下降算法中用到的小批量样本。
4、通常,术语 “批量梯度下降”指使用全部训练集,而术语“批量”单独出现时指一组样本。
5、例如,我们普遍使用术语“批量大小”表示小批量的大小。
本文到此分享完毕,希望对大家有所帮助。