基于魯棒控制的自適應(yīng)分?jǐn)?shù)階梯度優(yōu)化算法設(shè)計(jì)（英文）

摘要： 當(dāng)目標(biāo)函數(shù)是強(qiáng)凸函數(shù)時(shí),一般的分?jǐn)?shù)階梯度下降法不能夠使函數(shù)收斂到最小值點(diǎn),只能收斂到一個(gè)包含最小值點(diǎn)的區(qū)域內(nèi)或者是發(fā)散的.為了解決這個(gè)問題,本文提出了自適應(yīng)分?jǐn)?shù)階梯度下降法(AFOGD)和自適應(yīng)分?jǐn)?shù)階加速梯度下降法(AFOAGD)兩種新的優(yōu)化算法.受到魯棒控制理論中二次約束和李雅普諾夫穩(wěn)定性理論的啟發(fā),建立了一個(gè)線性矩陣不等式去分析所提出的算法的收斂性.當(dāng)目標(biāo)函數(shù)是L-光滑且m...