報(bào)告時(shí)間：2024年06月21日（星期五）14:30-16:30
報(bào)告地點(diǎn)：管理學(xué)院新大樓925會(huì)議室
報(bào) 告 人：王楊 教授
工作單位：合肥工業(yè)大學(xué)計(jì)算機(jī)與信息學(xué)院
舉辦單位：管理學(xué)院
報(bào)告簡(jiǎn)介：
近年來(lái)，基于數(shù)據(jù)安全與隱私問(wèn)題，無(wú)數(shù)據(jù)場(chǎng)景下的知識(shí)蒸餾方法獲得了越來(lái)越多的關(guān)注。然而，現(xiàn)有方法側(cè)重于恢復(fù)原始數(shù)據(jù)，忽略了生成樣本對(duì)于學(xué)生模型的適應(yīng)性，在涉及老師-學(xué)生網(wǎng)絡(luò)模型存在較大差異的情況下，仍然面臨著諸多挑戰(zhàn)。在本次報(bào)告中，我們首先通過(guò)以下幾個(gè)問(wèn)題介紹關(guān)于知識(shí)蒸餾的差異性研究：老師學(xué)生模型差異性為什么以及什么時(shí)候會(huì)影響學(xué)生的性能？如何衡量老師學(xué)生間的差異性？然后，我們立足無(wú)數(shù)據(jù)量化任務(wù)，通過(guò)泛化誤差分析，深入研究孤立學(xué)生模型所導(dǎo)致的欠擬合、過(guò)擬合問(wèn)題。圍繞生成樣本的適應(yīng)性，首次提出零和博弈觀(guān)點(diǎn)進(jìn)而分析無(wú)數(shù)據(jù)量化，解決了模型差異性問(wèn)題，同時(shí)為生成樣本構(gòu)建上下邊界，通過(guò)邊緣優(yōu)化，在無(wú)數(shù)據(jù)蒸餾過(guò)程中實(shí)現(xiàn)理想樣本的生成。
報(bào)告人簡(jiǎn)介：
王楊，合肥工業(yè)大計(jì)算機(jī)與信息學(xué)院教授，斛兵學(xué)者，博士生導(dǎo)師。入選國(guó)家高層次人才計(jì)劃，安徽省高層次人才計(jì)劃，安徽省領(lǐng)軍人才。主持國(guó)家自然科學(xué)基金聯(lián)合基金重點(diǎn)項(xiàng)目，面上項(xiàng)目等。擔(dān)任ACM Transactions on Information systems（ACM TOIS, CCF Rank A）副編。在人工智能，模式識(shí)別和多媒體計(jì)算領(lǐng)域發(fā)表論文100篇，其中CCF A類(lèi)論文50篇，ESI高被引論文8篇，發(fā)表源包括 IEEE TPAMI, AI Journal (Elsevier), IJCV, IEEE TIP, CVPR, KDD, ECCV, SIGIR, AAAI, IJCAI, ACM Multimedia, ACM TOIS, ACM TKDD, IEEE TKDE, Machine Learning (Springer), VLDB Journal, Science China Information Sciences (中國(guó)科學(xué)：信息科學(xué))。兩篇論文入選IJCAI 最有影響力論文之一，連續(xù)入選斯坦福大學(xué)人工智能與圖像處理領(lǐng)域 Top 2% 科學(xué)家。擔(dān)任國(guó)家自然科學(xué)基金委員會(huì) 海外優(yōu)青，面上項(xiàng)目，地區(qū)基金項(xiàng)目評(píng)審專(zhuān)家。谷歌學(xué)術(shù)引用6000+，H-因子38。
