Onderzoeksgroep

Sub-kwadratische graaf neurale netwerken: de zoektocht naar een goed evenwicht tussen efficiëntie en uitdrukkingskracht. 01/10/2022 - 30/09/2026

Abstract

Dit project situeert zich in het gebied van graph learning, een steeds populairder wordend gebied in machine learning, en richt zich op de ontwikkeling van een theoretisch kader voor het ontwerpen en analyseren van expressieve, doch efficiënte, graaf neurale netwerken. Ondanks de vooruitgang in hardware, moet men bij het ontwerpen van graaf neurale netwerken rekening houden met efficiëntie overwegingen. Dit houdt bijvoorbeeld in dat de meeste graaf neurale netwerken gebruik maken van update-functies waarvoor een lineaire hoeveelheid berekening nodig is. Een gevolg is dat dergelijke netwerken alleen eenvoudige functies kunnen leren. Hoewel er meer geavanceerde graaf neurale netwerken zijn voorgesteld, die complexere functies kunnen leren, is hun toepasbaarheid beperkt. Dit komt door het feit dat kwadratisch (of meer) berekeningen nodig zijn, wat niet haalbaar is voor grote graaf data. In dit project willen we begrijpen wat graaf neurale netwerken kunnen wanneer we berekeningen toelaten *tussen* deze lineaire en kwadratische kost. We stellen dan ook voor om sub-kwadratische graaf neurale netwerken te formaliseren, bestuderen en analyseren. Dergelijk sub-kwadratische graaf neurale netwerken zijn nog steeds efficiënt (minder dan kwadratisch) en nog steeds krachtig (meer dan wat lineaire netwerken kunnen). Bovendien vallen een aantal zeer recente graaf neurale netwerken in deze sub-kwadratische categorie. Naast het ontwikkelen van een wiskundig raamwerk voor sub-kwadratische graaf neurale netwerken, bestuderen we ook hun capaciteiten, zowel theoretisch als praktisch.

Onderzoeker(s)

Onderzoeksgroep(en)

Project type(s)

  • Onderzoeksproject