91一级特黄大片|婷婷中文字幕在线|av成人无码国产|日韩无码一二三区|久久不射强奸视频|九九九久久久精品|国产免费浮力限制

6
點(diǎn)贊
0
評(píng)論
0
轉(zhuǎn)載
我要入駐

畢業(yè)生 | PKU-DAIR實(shí)驗(yàn)室兩名畢業(yè)生榮獲“北京大學(xué)優(yōu)秀學(xué)位論文”

近日,北京大學(xué)2025年優(yōu)秀博士學(xué)位論文評(píng)選結(jié)果確定,計(jì)算機(jī)學(xué)院共3篇論文獲評(píng)北京大學(xué)2025年優(yōu)秀博士學(xué)位論文,PKU-DAIR實(shí)驗(yàn)室2025屆博士畢業(yè)生張海林的學(xué)位論文《深度學(xué)習(xí)中大規(guī)模嵌入向量的管理技術(shù)研究》入選,指導(dǎo)教師為崔斌教授。

另外,2025年北京大學(xué)優(yōu)秀本科畢業(yè)論文和信息科學(xué)技術(shù)學(xué)院2021級(jí)本科生“十佳”優(yōu)秀畢業(yè)論文評(píng)選結(jié)果確定。PKU-DAIR實(shí)驗(yàn)室本科畢業(yè)生凌宿寒的學(xué)位論文《支持長視頻生成的高效免訓(xùn)練自適應(yīng)稀疏注意力方法》入選,指導(dǎo)老師為崔斌教授。

4c67c24a66fdb8f2368ab92a629c51f

張海林(左)與導(dǎo)師崔斌教授(右)

2025年北京大學(xué)優(yōu)秀博士學(xué)位論文名單

2.3

凌宿寒(左)與崔斌教授(右)

2025年北京大學(xué)優(yōu)秀本科畢業(yè)論文評(píng)選結(jié)果(信科部分)

信息科學(xué)技術(shù)學(xué)院2021級(jí)本科生“十佳”優(yōu)秀畢業(yè)論文評(píng)選結(jié)果

張 海 林 介 紹

張海林博士(2020級(jí)博士研究生),導(dǎo)師為北京大學(xué)計(jì)算機(jī)學(xué)院副院長崔斌教授,主要研究方向是機(jī)器學(xué)習(xí)系統(tǒng),目前已發(fā)表10余篇CCF-A類文章,其中7篇第一作者/共同一作論文,一作/共一文章曾獲得數(shù)據(jù)庫頂級(jí)會(huì)議VLDB的可擴(kuò)展數(shù)據(jù)科學(xué)最佳論文獎(jiǎng)、SIGMOD的最佳代碼實(shí)現(xiàn)提名獎(jiǎng)。他是開源高性能分布式深度學(xué)習(xí)系統(tǒng)河圖的主要代碼貢獻(xiàn)者,有多項(xiàng)研究成果已在騰訊、微軟、小米等業(yè)界場(chǎng)景得到應(yīng)用。他曾獲得北京大學(xué)優(yōu)秀畢業(yè)生、北京大學(xué)校長獎(jiǎng)學(xué)金、北京大學(xué)三好學(xué)生等榮譽(yù)。

 

博 士 學(xué) 位 論 文 介 紹

張海林的博士學(xué)位論文主要研究深度學(xué)習(xí)中大規(guī)模嵌入向量的管理技術(shù),選題具有重要的理論意義和實(shí)踐價(jià)值。深度學(xué)習(xí)中的嵌入向量規(guī)??焖僭鲩L,帶來管理挑戰(zhàn)。文章針對(duì)嵌入向量在模型輸出、輸入和中間表示中的不同應(yīng)用場(chǎng)景,提出三種優(yōu)化技術(shù):

1)提出生成模型增強(qiáng)的向量索引,對(duì)于模型輸出向量的檢索,結(jié)合生成模型與傳統(tǒng)檢索,實(shí)現(xiàn)高效兩階段搜索,提升效果且保持低延遲。

2)提出緊湊、適應(yīng)性、快速的嵌入向量壓縮框架,對(duì)于模型輸入向量的訓(xùn)練,動(dòng)態(tài)追蹤重要特征、并分配存儲(chǔ)資源,滿足高存儲(chǔ)效率、低延遲、適應(yīng)性。

3)提出基于乘積量化的鍵值緩存管理技術(shù),對(duì)于大語言模型緩存的向量,用乘積量化管理并選擇重要token進(jìn)行計(jì)算,平衡推理效率與質(zhì)量。

 

凌宿寒介紹

凌宿寒(2021級(jí)信息科學(xué)技術(shù)學(xué)院本科畢業(yè)生),將于2025年進(jìn)入北京大學(xué)計(jì)算機(jī)學(xué)院攻讀博士學(xué)位,導(dǎo)師為北京大學(xué)計(jì)算機(jī)學(xué)院副院長崔斌教授,研究方向?yàn)闄C(jī)器學(xué)習(xí)系統(tǒng)。本科期間已發(fā)表2篇學(xué)術(shù)論文,并曾獲得北京大學(xué)三好學(xué)生等榮譽(yù)。未來將繼續(xù)在分布式深度學(xué)習(xí)系統(tǒng)優(yōu)化、高效推理等方向開展研究。

 

本科學(xué)位論文介紹

凌宿寒的畢業(yè)論文針對(duì)Diffusion Transformer(DiT)在視頻生成過程中面臨的注意力計(jì)算效率瓶頸問題,提出了一種創(chuàng)新的AdaSpa優(yōu)化方案。該研究通過分析DiT固有的層次化稀疏特征,設(shè)計(jì)了基于塊狀稀疏表征的高效注意力計(jì)算范式;同時(shí)利用去噪過程中稀疏模式的不變性,實(shí)現(xiàn)了在線精確搜索與實(shí)時(shí)計(jì)算優(yōu)化;并創(chuàng)新性地引入分步調(diào)度策略,根據(jù)去噪階段的重要性差異動(dòng)態(tài)分配計(jì)算資源。實(shí)驗(yàn)結(jié)果表明,AdaSpa方案在不影響生成視頻質(zhì)量的前提下,能夠穩(wěn)定實(shí)現(xiàn)1.7-1.8倍的加速效果,為解決高質(zhì)量視頻生成的實(shí)時(shí)性問題提供了實(shí)用且高效的解決方案。

 

 

實(shí)驗(yàn)室簡(jiǎn)介

 

北京大學(xué)數(shù)據(jù)與智能實(shí)驗(yàn)室(Data And Intelligence Research Lab at Peking Univeristy,PKU-DAIR實(shí)驗(yàn)室)由北京大學(xué)計(jì)算機(jī)學(xué)院崔斌教授領(lǐng)導(dǎo),長期從事數(shù)據(jù)庫系統(tǒng)、大數(shù)據(jù)管理與分析、人工智能等領(lǐng)域的前沿研究,在理論和技術(shù)創(chuàng)新以及系統(tǒng)研發(fā)上取得多項(xiàng)成果,已在國際頂級(jí)學(xué)術(shù)會(huì)議和期刊發(fā)表學(xué)術(shù)論文200余篇,發(fā)布多個(gè)開源項(xiàng)目。課題組同學(xué)曾數(shù)十次獲得包括CCF優(yōu)博、ACM中國優(yōu)博、北大優(yōu)博、微軟學(xué)者、蘋果獎(jiǎng)學(xué)金、谷歌獎(jiǎng)學(xué)金等榮譽(yù)。PKU-DAIR實(shí)驗(yàn)室持續(xù)與工業(yè)界展開卓有成效的合作,與騰訊、阿里巴巴、蘋果、微軟、百度、快手、中興通訊等多家知名企業(yè)開展項(xiàng)目合作和前沿探索,解決實(shí)際問題,進(jìn)行科研成果的轉(zhuǎn)化落地。


北京大學(xué)數(shù)據(jù)與智能實(shí)驗(yàn)室,PKU-DAIR,Peking University Data And Intelligence Research Lab,負(fù)責(zé)人為北京大學(xué)計(jì)算機(jī)學(xué)院崔斌教授。
返回頂部