255
1
0
2024-12-26 18:45:07
2024-12-26
第 21 屆 IEEE 泛在智能與計(jì)算國(guó)際會(huì)議(UIC 2024)在斐濟(jì)盛大舉行。吸引了全球人
工智能領(lǐng)域的頂尖學(xué)者與專(zhuān)家匯聚一堂，共同探討和展示最新的研究成果。iGraph 研究組的論文“Meta-path and Meta-schema Hierarchical Aggregation for Heterogeneous Graph Neural Networks”有幸可以在此會(huì)議上發(fā)表。
論文概述：隨著近年來(lái)深度學(xué)習(xí)的發(fā)展，異構(gòu)圖神經(jīng)網(wǎng)絡(luò)（HGNNs）引起了諸多關(guān)注。它們是一組專(zhuān)門(mén)為處理異構(gòu)圖數(shù)據(jù)而設(shè)計(jì)的深度學(xué)習(xí)模型，在異構(gòu)圖數(shù)據(jù)中，節(jié)點(diǎn)和邊具有多種類(lèi)型，并且假定所有節(jié)點(diǎn)之間存在直接或間接的關(guān)聯(lián)。元模式作為異構(gòu)圖全面且統(tǒng)一的藍(lán)圖，通過(guò)具有豐富語(yǔ)義的多條異構(gòu)邊，巧妙地將不同的節(jié)點(diǎn)類(lèi)型與其他異構(gòu)節(jié)點(diǎn)連接起來(lái)。然而，許多利用元模式挖掘異構(gòu)信息的現(xiàn)有方法往往側(cè)重于模式內(nèi)部不同的元關(guān)系，這使得元模式僅限于描述局部關(guān)系語(yǔ)義。
為了更好地利用元模式高效整合不同的異構(gòu)信息，我們將它們組織成一種層次結(jié)構(gòu)（即層次元模式），所有類(lèi)型的節(jié)點(diǎn)分布在不同的層中。各層通過(guò)異構(gòu)關(guān)系相互連接。目標(biāo)類(lèi)型被置于最后一層，而其他類(lèi)型則根據(jù)元模式中定義的異構(gòu)關(guān)系按層次排列在前。在信息聚合過(guò)程中，依據(jù)層次元模式，各層的信息通過(guò)注意力機(jī)制由遠(yuǎn)及近逐步聚合到最后一層的目標(biāo)類(lèi)型上。 此外，元路徑通常起始和終止于相同類(lèi)型，有助于定義復(fù)雜的結(jié)構(gòu)和語(yǔ)義。因此，我們還在所提出的層次元模式內(nèi)基于元路徑考慮鄰居的語(yǔ)義信息，以增強(qiáng)元模式中可能缺失的同類(lèi)型節(jié)點(diǎn)之間的復(fù)雜語(yǔ)義。 最后，我們提出了一種面向異構(gòu)圖神經(jīng)網(wǎng)絡(luò)模型的元路徑和元模式層次聚合方法，名為HGNN-MMHA。我們可以使元模式不再局限于其內(nèi)部的元關(guān)系信息，最大限度地考慮異構(gòu)圖中不同類(lèi)型節(jié)點(diǎn)之間的相關(guān)性。在四個(gè)真實(shí)的異構(gòu)圖數(shù)據(jù)集上進(jìn)行的大量實(shí)驗(yàn)表明，與現(xiàn)有最先進(jìn)的方法相比，所提出的HGNN-MMHA方法是有效的。
創(chuàng)新點(diǎn)：
（1）為了充分挖掘并保留異構(gòu)圖中各類(lèi)節(jié)點(diǎn)及關(guān)系所產(chǎn)生的異構(gòu)信息，我們將元模式組織成一種層次結(jié)構(gòu)，即層次元模式。層次元模式將不同類(lèi)型的節(jié)點(diǎn)分布在不同的層中，并通過(guò)異構(gòu)關(guān)系將它們相互連接起來(lái)。
（2）為了補(bǔ)充元模式中可能缺失的同類(lèi)型節(jié)點(diǎn)之間的復(fù)雜語(yǔ)義，我們?cè)谒岢龅膶哟卧Ｊ絻?nèi)基于元路徑來(lái)考慮鄰居的語(yǔ)義信息。此外，本文還設(shè)計(jì)了一種基于元模式自動(dòng)提取元路徑的簡(jiǎn)易方法，該方法在一定程度上避免了人工定義元路徑。
