本发明实施例公开了一种模型参数训练方法、装置及系统，用于快速的进行图像检索或图像分类的参数训练。本发明实施例方法包括：使用模型参数对目标函数进行迭代计算，所述目标函数为用于进行图像训练的代价函数，若所述迭代计算的结果不满足终止条件，则确定所述目标函数在所述模型参数上的第一梯度，并根据所述模型参数在所述目标函数中所表现出的参数分布特征更新学习速率，根据所述学习速率和所述第一梯度更新所述模型参数，重复上述步骤，直至所述迭代计算的结果满足所述终止条件，获取满足所述终止条件的所述迭代计算的结果对应的模型参数。
