


羨林大講堂第95期:陳俊龍談動態結構的神經網絡
5月18日,由學生工作處主辦、數學科學學院承辦的聊城大學第95期“羨林大講堂”以線上直播、線下集中觀看的方式,于西校區11#B207、A201開展。華南理工大學計算機科學與工程學院院長陳俊龍受邀做客本期羨林大講堂,作題為《動態結構的神經網絡:構建疊層寬度神經網絡成深度模型》的報告。本次報告會由數學科學學院副院長趙軍圣主持,學院部分教師、研究生和數據科學與大數據專業2019級學生聽取了報告。
報告強調,深層的神經網絡結構能夠使網絡具有強大的學習能力,然而大多數深度網絡的訓練方式也是基于反向傳播的梯度下降法或隨機梯度下降法,往往存在著訓練消耗時間長、容易陷入局部最優解等問題。寬度學習系統 (Broad Learning Systems, BLS) 是一種淺層的具有增量學習能力的神經網絡,具有快速、高效的優點,然而其淺層結構也限制了網絡的特征表達能力。一種具有動態結構的神經網絡“由構建疊層寬度神經網絡成的深度模型”可以解決上述問題。該模型保留了寬度學習系統高效、快速的優點,同時通過殘差連接將多個寬度學習系統模塊疊加起來,增加網絡的深度,提高網絡的學習能力。疊層寬度神經網絡(Stacked BLS)的“動態”體現在寬度和深度兩個方面。寬度方向的增量學習體現在寬度學習系統模塊內部的神經元:在每一個寬度學習系統模塊內部,當新增加特征節點、增強節點或輸入數據時,只需要學習新增加部分的權重即可;深度方向的增量學習體現在寬度學習系統模塊之間:在寬度學習系統模塊之,當疊加新的寬度學習系統模塊時,下層模塊的參數可以固定不變,只需要計算新疊加的寬度學習系統模塊的網絡參數即可。這兩種增量學習的方式使得模型的計算量較少,網絡復雜性較低,使用過程中可以很方便的增加網絡的寬度和深度,并實現快速、高效的訓練,能夠針對不同任務進行適應性的調整,提高模型的泛化能力。疊層寬度神經網絡在多個數據集上展現了優越性,在多個圖像數據庫的測試,均優于現有的很多圖像分類方法,同時相較于深度神經網絡方法,動態結構的神經網絡大幅減少了網絡計算時所需要的參數數量。
報告結束后,同學們紛紛表示受益匪淺,要以陳教授為榜樣,刻苦鉆研,為國家大數據發展貢獻自己的力量。
陳俊龍(C. L. Philip Chen),華南理工大學計算機科學與工程學院院長、講座教授、清華大學海外杰出訪問教授、中國自動化學會副理事長、科睿維安全球高被引科學家(工程及計算機雙學科)、美國工學技術教育認證會評審委員及我國計算機科學與技術的教育指導委員會成員。曾任IEEE Transactions on Cybernetics (2020-2021)、IEEE Trans. on Systems、Man, and Cybernetics: Systems (2014-2019)頂級期刊主編、IEEE SMC 學會國際總主席(2012-2013),現任《中國科學》、《自動化學報》,IEEE Trans. on Fuzzy Systems, 和 IEEE Trans. on AI 的副編。曾獲2次IEEE Transactions on Neural Networks and Learning Systems年度期刊最佳年度論文獎,在2018 年獲IEEE系統科學控制論最高學術維納獎 (Norbert Wiener Award),獲2021 IEEE Joseph Wohl 終身成就獎,及獲2021吳文俊人工智能杰出貢獻獎。科研方向為智能系統與控制、計算智能等;科研支持包括科技部重點研發項目(首席)、國家基金委重點項目在人工智能方向的科研、以及多項廣東省、廣州市、澳門科技基金委的資助;科研成果包括3次澳門自然科學獎、廣東省科學技術一等獎等。曾任澳門大學講座教授及科技學院院長、澳門大學工程學科及計算機工程獲國際《華盛頓協議》、《首爾協議認證》,是他對澳門工程教育的至高貢獻。
(審核 趙軍圣)
聊大要聞
-
我校學生乒乓球隊首征省賽載譽而歸2025-05-27
-
白成林帶隊赴南昌考察交流學習2025-05-27
-
聊城大學組織課程思政專題培訓2025-05-28
-
我校第四屆教職工足球聯賽開賽2025-05-27
-
“Passion 山東 青春之旅”主題推廣活動在我校成功舉辦2025-05-23
-
校工會(婦委會)舉辦“桃李芳華”湖畔沙龍活動2025-05-22
-
馬克思主義學院研究生團隊成功入選馬研會、中國李大釗研究會2025年度“馬克思主義經典著作研讀”中共黨史黨建專項支持計劃2025-05-22
-
【中國農網】【農民日報客戶端】報道聊城大學:把“一頭驢”的科研鏈與產業鏈精準對接2025-05-22
-
延安大學黨委常委、副校長李楊一行來訪2025-05-22
-
巴布亞新幾內亞駐華大使塔迪烏斯·卡姆巴內率團來訪2025-05-22