報(bào)告題目：求解線(xiàn)性系統(tǒng)的自適應(yīng)隨機(jī)重球動(dòng)量方法
報(bào)告專(zhuān)家：謝家新 北京航空航天大學(xué)
報(bào)告地點(diǎn)：騰訊會(huì)議(會(huì)議號(hào):696551138; 密碼:230619)
報(bào)告時(shí)間：2023-6-19, 14:30-15:30
報(bào)告摘要：
隨機(jī)重球動(dòng)量(簡(jiǎn)稱(chēng)為SHBM)算法已成為一種具有可擴(kuò)展性的解決大規(guī)模優(yōu)化問(wèn)題的方法。然而，該方法的一個(gè)局限性在于其依賴(lài)于某些問(wèn)題參數(shù)的先驗(yàn)信息，如矩陣的奇異值等。在本次報(bào)告中，我們將介紹一種自適應(yīng)的SHBM(簡(jiǎn)稱(chēng)為ASHBM)方法，用于解決使用用戶(hù)定義分布從線(xiàn)性系統(tǒng)重構(gòu)的隨機(jī)問(wèn)題。ASHBM方法利用迭代信息來(lái)更新參數(shù)，解決了關(guān)于動(dòng)量參數(shù)自適應(yīng)學(xué)習(xí)文獻(xiàn)中的一個(gè)開(kāi)放性問(wèn)題。我們證明了ASHBM方法在期望意義下線(xiàn)性收斂，其收斂速度比基本方法更快。值得注意的是，ASHBM方法的確定性形式可以被看成是共軛梯度(簡(jiǎn)稱(chēng)為CG)方法的一個(gè)變體，繼承了CG方法許多吸引人的特性，如在有限時(shí)間里收斂。因此，可以對(duì)ASHBM方法做進(jìn)一步推廣，建立一種全新的求解線(xiàn)性系統(tǒng)的隨機(jī)共軛梯度(簡(jiǎn)稱(chēng)為SCG)方法的框架。我們的理論結(jié)果得到了數(shù)值實(shí)驗(yàn)的支持。本研究是與韓德仁教授、曾韻和蘇宴生的合作, arXiv鏈接:https://arxiv.org/abs/2305.05482.
報(bào)告人簡(jiǎn)介：
謝家新, 北京航空航天大學(xué)數(shù)學(xué)科學(xué)學(xué)院副研究員, 碩士生導(dǎo)師, 中國(guó)運(yùn)籌學(xué)會(huì)數(shù)學(xué)規(guī)劃分會(huì)青年理事。2012年和2017年于湖南大學(xué)數(shù)學(xué)學(xué)院分別獲得學(xué)士和博士學(xué)位, 2017-2019年于中國(guó)科學(xué)院數(shù)學(xué)與系統(tǒng)科學(xué)研究院從事博士后研究, 合作導(dǎo)師許志強(qiáng)研究員。研究興趣為數(shù)據(jù)科學(xué)中的數(shù)學(xué)問(wèn)題, 特別是壓縮感知、隨機(jī)優(yōu)化算法和子集選擇等問(wèn)題。主持北航青年拔尖計(jì)劃和國(guó)家自然科學(xué)基金青年等項(xiàng)目。
作者：吳念慈；編輯：胡軍浩；審核：胡軍浩；上傳：郭敏。
