Előadás

Geometriai mélytanulás

MI: Nők a Mesterséges Intelligencia Kutatásban

2025. április 10. 13:00BME Informatikai épület · Budapest

Átirat · 1:57:26

Szuper! Üdvözlök mindenkit! Szerintem egy szép testutca vagyok, és nagyon örülök, hogy itt lehetek, szerintem ez egy szuper rendezvény, és fantasztikus előadásokat hallhattunk el kivétén, nagyon inspirált vagyok, és majd igyekezhetünk vissza is utalmi előadásokra.

Átirat · 1:57:44

Amikor megkapcsolódni fogok, az az energiányok alap szekció lesz, akkor én gráfaló állókat használtak, illetve igen, az, amihez tudok megkapcsolódni leginkább.

Átirat · 1:57:58

Amikor elkezdtem statisztikai tanulással fóllalkozni, akkor ez volt az egyik első ábra, amivel találkozhattam. Ez igazából azt mutatja, hogy a statisztikai tanulásnak négy alapvető eleme van.

Átirat · 1:58:13

Az egyik az adaterosztás, amiből tanulni szeretnénk, a bemenetünk. Van valami modellünk, amivel szeretnénk egy rendszer modellezni.

Átirat · 1:58:22

Ha a modellünk és a rendszerünk kimenetiéből kereskezik egy hiba, van egy hibafüggvényünk, amiből úgymond gradiális számítunk, és amiből igazából a modell paramétereit egy optimalizáló keresztül fogjuk befolyásolni.

Átirat · 1:58:38

Ez a négy elemen adaterosztás, modell, hibafüggvény és optimalizáló.

Átirat · 1:58:42

Ha ránézünk egy példára, mondjuk a titanikra, a titanik példát azért szeretne, mert elérhetőek az adatok és megfelelően sokkolva hallgatókat vele és tenn tartja a figyelmet,

Átirat · 1:58:59

de hogy elérhetőek a titanikon utazók adatai és ezekből lehet ilyen modellt építeni,

Átirat · 1:59:09

hogyha megnézzük, hogy vajon egy résztvevő milyen eséllyel érte volna túl ezt a katasztrófát.

Átirat · 1:59:17

Tehát a mesterségi és intelligencia alkoholikusomnak el lehet dönteni, ha túl érte vagy nem érte túl, és a modellem, legyen most a mesterségi és intelligencia modellem egy neurális háló.

Átirat · 1:59:28

Neurális hálónk közvetlenül a neurális háló, amit így néz ki, általában van egy bemenet, van valami súlyok, amiket összeszórszunk,

Átirat · 1:59:39

van utána egy összeegző, és van egy aktivációs függvényem.

Átirat · 1:59:42

Az aktivációs függvény többek között a HEP tanulásból érkezik, hogy ha két neuron együtt tűzel,

Átirat · 1:59:49

akkor valószínűleg van valami kapcsolat közöttük, és a kapcsolat megváltozik, és a súlyokra ezt visszavezetjük.

Átirat · 1:59:57

Na de ha nézzük a példámat, akkor lehet a bemenetünk mondjuk a titanik katasztrófánál az utasnak a neme,

Átirat · 2:00:04

hogy éppen milyen anyagi helyzete van, milyen jegyet sikerült neki megnézni,

Átirat · 2:00:08

milyen életpontú, az is nagyon fontos, és hogy éppen a családjában ül az otte.

Átirat · 2:00:17

És ha ezt ide átrakjuk a modellünkre, akkor a bemenetünk ezek az adatok, a modellünk az a neurális három,

Átirat · 2:00:25

a kimenetünk az ilyenben túlértelt, ebből képezünk egy hibát, mondjuk alkalmazhatunk egy keresztendrópiát,

Átirat · 2:00:34

és azt egy például logomotizálunk keresztül,

Átirat · 2:00:37

az lehet az elem, visszavezetjük a modellet.

Átirat · 2:00:40

Hát ez fantasztikus, és akkor nézzük meg a neurális háromnak egy kicsit az eredményt egy kicsit jobban.

Átirat · 2:00:46

Ha ránézzük, amit mondtam, van valami bemenet, vannak súlyok, van valami összeegző és van valami aktivációs függvény a végén.

Átirat · 2:00:53

Ha ezt leforgítjuk egy kicsit matekosabbra, akkor a bemenetnek és a súlyoknak a linális kombinációját képezzük,

Átirat · 2:01:01

és erre ráadnak úgy egy aktivációs függvény, egy nem úgy nagyítás.

Átirat · 2:01:09

Én ezeket is veszek, hogy ne hataljak nagyon.

Átirat · 2:01:12

És így fog kinézni a neurális három.

Átirat · 2:01:15

Ha ezt egy kicsit megspékeljük, és egy kicsit kreatívabbak vagyunk,

Átirat · 2:01:19

és úgy döntünk, hogy egy réteg nem elég nekünk, hanem több réteget szeretnénk,

Átirat · 2:01:23

akkor elképzelhetjük, hogy az i-e plusz egyedik rétege, és ugyanígy kapjuk meg az i-edik rétegből,

Átirat · 2:01:30

van a súlymatrixom, van a bemenetem és a belőző rétegem, hozzá valami eltolást,

Átirat · 2:01:38

és ezt beadjuk a minerálitásnak.

Átirat · 2:01:41

Ha már valaki látott bőrbeillesztést, a bőrbeillesztés az így néz ki,

Átirat · 2:01:46

hogy vagy az, hogy lineális bőrbeillesztésünk van, és akkor igazából csak a belső része van,

Átirat · 2:01:52

hogy a lineális kombináció, vagy linearizálunk, rájövünk a bemenetünkre valamilyen függvényt,

Átirat · 2:02:01

egy olyan splámos vagy valami, vagy a harmadik, hogy nem minerálitást teszünk az egészre,

Átirat · 2:02:07

és azt mondja nekünk a neurális háló.

Átirat · 2:02:09

Tehát a neurális háló egy szoicisztikák bőrbeillesztés, és abból sem a legjobb amúgy,

Átirat · 2:02:15

de azért persze, ha emeljük meg, lehet nagyon jó neurális hálókat csinálni bizonyos problémákra,

Átirat · 2:02:21

de ez van, ez a mély neurális háló.

Átirat · 2:02:24

Mégis ma használjuk, mindenki használja, erről szóltak az előző előadásokra, mert az az internet.

Átirat · 2:02:30

Ez miért van? Tehát az a kérdés, hogy miért van internetban valami,

Átirat · 2:02:35

és erre az egyik válasz a geometria és a topológia.

Átirat · 2:02:39

Ugyanis ezek a modellek, amik megjelentek, az első jelöli állapunknak a konvolúciós neurális hálója volt,

Átirat · 2:02:47

az figyelembe veszi az adatoknak a geometriáját, topológiáját, és a belső struktúráját,

Átirat · 2:02:55

és megjelenik a konvolúciós réteg.

Átirat · 2:02:59

És erről szól igazából a geometriai méltalulás.

Átirat · 2:03:03

Nagyon fenszín hangzik, de ez van mögötte.

Átirat · 2:03:07

Tradicionálisan azonban a geometriai méltalulást gráfokon végzett méltalulásra értelmeztük, ez volt régebben.

Átirat · 2:03:16

Mostanában, manapság azonban, a geometriai méltalulás egy kicsit nagyobb halmazt kapott a térben,

Átirat · 2:03:23

itt már gráfokon, meseken, halmazokon, mondjuk lidarkon, felhőn, felületeken, mutatok példákat,

Átirat · 2:03:32

végzett méltalulásra értjük.

Átirat · 2:03:35

Például a képek, azok valójában bűvek, és ezért ők is ide tartoznak, a geometriai méltalulás elnyövje alá.

Átirat · 2:03:45

Én viszont a tradíciókat szeretném egy kicsit követni, és ezért a gráfokon alkalmazott méltalulásról fogok beszélni.

Átirat · 2:03:55

A gráfok azok csomó pontok és élethalmaza.

Átirat · 2:03:59

És miért jó ez?

Átirat · 2:04:02

Mert a gráfoknak a motiváció következik.

Átirat · 2:04:04

Például gráf az, amikor van egy szociális háló, nem akarom márta neveket mondani most, így az elmúlt előadás tapasztalattával,

Átirat · 2:04:14

de hogy pedig van egy szociális háló, hogy ugye emberek vannak és emberek között kapcsolatok.

Átirat · 2:04:19

Az egy gráf.

Átirat · 2:04:21

Vagy van egy Magyarország térképe, vannak a városok, a városok között mondjuk lenne több vasúti átfaladások,

Átirat · 2:04:31

akkor ezek a kapcsolatok folyad el a városok között.

Átirat · 2:04:34

És egy nagyon érdekes motiváció az Artificial General Intelligence, ez az általános mesterséges intelligencia.

Átirat · 2:04:43

A felé akarunk menni, hogy a mesterséges intelligencia, nem csak mert nem tudom, hogy mennyire volt átütve az előző előadásokban,

Átirat · 2:04:53

de általában azért mesterséges intelligencia, hogyha csinálunk egy ilyen modellt, akkor az egy taszra lesz nagyon jó.

Átirat · 2:04:58

Arra rá specifikálunk.

Átirat · 2:05:01

Nem tud abszolra hálni, nem tud az egyik modellről egyik feladatról egy másikra egyet könnyen átugrani.

Átirat · 2:05:06

Eggyel lesz nagyon ügyes, és azt feltételezik, hogy ahhoz, hogy egy ilyen általános modellt elérjünk,

Átirat · 2:05:13

ahhoz a gráflagú megközelítés az kikerülhetetlen, hiszen mi is a napi gyakorlatban fogalmak vannak az agyunkban,

Átirat · 2:05:22

és a fogalmakhoz pedig valami kapcsolatok vannak az egyes fogalmak között.

Átirat · 2:05:27

Ezt ábrázolja ez a Norwich gráf.

Átirat · 2:05:29

Ami az egyes fogalmak között.

Átirat · 2:05:31

A fogalmak, képek, tárgyak között kapcsolatokat hoznék el.

Átirat · 2:05:36

Erre még vissza fogok élni.

Átirat · 2:05:39

És akkor menjünk egy kicsit bele.

Átirat · 2:05:41

Nézzük meg a konvolúciós-neukális hárót.

Átirat · 2:05:44

Ehhez lehetőség van az, hogy ismerjük a képeket is a konvolúciós-neukális hárót.

Átirat · 2:05:51

Megnézzük, hogy értelmezhetünk egy kétdés diszkrét konvolúció képeket.

Átirat · 2:05:59

Megnézzük, hogy hogy alkalmazhatjuk ennek megfelelően a gráfokon.

Átirat · 2:06:03

A képek teljesen más struktúra.

Átirat · 2:06:05

Egymás mellett vannak a nódjai.

Átirat · 2:06:07

Nem tudnak mozogni, azért nagyon helyhez vannak kötve.

Átirat · 2:06:11

A gráfoknál az egy sokkal szabadabb struktúra.

Átirat · 2:06:16

De egyiknél sem egyszerű.

Átirat · 2:06:18

Egyiknél sem egyszerű ezt definiálni.

Átirat · 2:06:21

Hogy mégis hogy lehet ahhoz, hogy tudjunk mesterséges intelligencia algoritmust csinálni,

Átirat · 2:06:29

ahhoz muszáj, hogy legyen hibafüggvényünk.

Átirat · 2:06:32

Hibafüggvényünk meg csak akkor tud lenni, ha tudunk távolságot definiálni két objektum között.

Átirat · 2:06:37

Ha nem tudunk két-két között távolságot mondani,

Átirat · 2:06:40

mondjuk két-két most közel van egymáshoz, vagy két-két távol van egymáshoz,

Átirat · 2:06:44

akkor nem működik az egész.

Átirat · 2:06:46

És ezt akarjuk a gráfoknál is meg akarjuk tudni mondani,

Átirat · 2:06:49

hogy mondjuk két csomópont közel van egymáshoz, vagy két csomópont távol van egymáshoz.

Átirat · 2:06:54

És ez ugye nem metrikus, tényleg nincs távolságfogalma.

Átirat · 2:06:57

Itt kapcsolatok vannak, és csomópontok vannak.

Átirat · 2:07:00

És a konvolúciós-neogális háromnál képdében diszkrét konvolúciót használunk,

Átirat · 2:07:05

ami igazából, diszkrét konvolúciót használunk,

Átirat · 2:07:11

ami két szúma és a szűrőnek, illetve a bemeneti képernekből keletkezi.

Átirat · 2:07:21

Ez egy térbeli feldolgozás,

Átirat · 2:07:23

ami azt jelenti,

Átirat · 2:07:25

hogy ezt a két terében csinálom.

Átirat · 2:07:29

Azonban aki esetleg a jelfeltolgozás területén járatos,

Átirat · 2:07:34

annak azonban eszébe jut,

Átirat · 2:07:36

hogy hú, ha van mondjuk időbeli tartományom, vagy térbeli,

Átirat · 2:07:40

akkor is ott megcsinálom a konvolúciót,

Átirat · 2:07:43

annak megcsinálom a Fourier transformátyát,

Átirat · 2:07:46

az a frekvencia tartományom a szorzással alapul.

Átirat · 2:07:50

És akkor megcsinálom a szűrőnek a Fourier transformátyát,

Átirat · 2:07:53

megcsinálom a bemenetiának,

Átirat · 2:07:55

összeszorzom és csinálom a inverse transformációt.

Átirat · 2:07:58

Ez totálisan felesleges, amikor képekről beszélünk,

Átirat · 2:08:02

hiszen a GPU mit tud megöntetni?

Átirat · 2:08:04

Egyszerűen szorozni meg összeadni.

Átirat · 2:08:06

Ezért ott nem is beszélünk ilyenről.

Átirat · 2:08:09

Viszont a gráfoknál már ez megtörténik.

Átirat · 2:08:13

A gráfoknál meg tudunk röntgözteni

Átirat · 2:08:15

térbeli konvolúciós rendeléshálókat,

Átirat · 2:08:18

és spektrális.

Átirat · 2:08:20

Itt a spektrális úgy értik,

Átirat · 2:08:22

hogy az történik,

Átirat · 2:08:24

hogy a gráfnak is megcsináljuk a Fourier transformátyát.

Átirat · 2:08:28

Kérdezhetjük, hogy hogy csinálunk a Fourier transformátyát,

Átirat · 2:08:32

de azt kell elképzelni, hogy ha van egy szociális háló,

Átirat · 2:08:35

amin különböző emberek vannak,

Átirat · 2:08:37

és akkor minden emberre szartozik különböző adatok,

Átirat · 2:08:40

abból csinálhatunk egy nagy mátrixot.

Átirat · 2:08:42

Ez egy mátrés.

Átirat · 2:08:44

Van maga a gráfunk,

Átirat · 2:08:47

és a gráfunkat elnézést kérek neki.

Átirat · 2:08:50

Van egy szomszédussági mátrix, az agyen történik a mátrixra,

Átirat · 2:08:53

és ennek végezik el,

Átirat · 2:08:55

ebből képzeljük egy lapra a smátrixot,

Átirat · 2:08:57

és annak végezzük el a saját kéretét.

Átirat · 2:08:59

Saját felvoltását remélem itt nelem vannak,

Átirat · 2:09:01

és a saját mátrixokra fogjuk vettíteni a bemenetet.

Átirat · 2:09:05

Na, de ez nem is annyira fontos,

Átirat · 2:09:08

mert ezt senki nem csinálja meg.

Átirat · 2:09:10

Mert saját mátrixot,

Átirat · 2:09:12

ezt ha valaki tudja a nagy mátrixokra,

Átirat · 2:09:14

az nem olyan vicces elvégezni,

Átirat · 2:09:16

és ezért ez tukad,

Átirat · 2:09:18

ez az elmélet mögöttel.

Átirat · 2:09:20

Azt csinálják helyettel, hogy ott látjuk,

Átirat · 2:09:22

hogy a csebbnete, ott azt csinálják,

Átirat · 2:09:24

hogy ilyen csebbisebb polinommal fogják közelíteni

Átirat · 2:09:26

a futrélytranszformáltat,

Átirat · 2:09:28

de a GCN, ami benne van a

Átirat · 2:09:30

krezelitáció, konflúciós, neurális háló,

Átirat · 2:09:33

az azt mondja, hogy ez nagyon sok,

Átirat · 2:09:36

mert a csebbisebb polinom is sok,

Átirat · 2:09:38

nulla regben, vagy első regben

Átirat · 2:09:40

becsülöm a csebbisebb polinomot,

Átirat · 2:09:43

és azt nekem elég vesz.

Átirat · 2:09:45

És az fogja nekünk, az lesz a GCN,

Átirat · 2:09:48

amit honnapság nagyon sokan használnak.

Átirat · 2:09:51

És ez egy nagyon érdekes dolog,

Átirat · 2:09:52

ugyanúgy vannak a télbeli konflúciós,

Átirat · 2:09:54

neurális hálók, amikor a szomszívus elemekből

Átirat · 2:09:56

veszünk el valami információt,

Átirat · 2:09:58

de megjelenik ez a spektrális polula,

Átirat · 2:10:01

amit én kifejezetten vagyok a szerepe.

Átirat · 2:10:04

Hasonlóan, nagyon sok alkoholikusunknak

Átirat · 2:10:08

megvan a grátkos pálya.

Átirat · 2:10:10

A worldcubeknek megvan a deepfog, vagy a nodecubek.

Átirat · 2:10:13

Itt ilyen random bejárásokat,

Átirat · 2:10:16

ilyen random voltokat használnak,

Átirat · 2:10:18

majd még lehet-e erre fogunk beszélni.

Átirat · 2:10:20

Autoencodereknek is megvan a grátka,

Átirat · 2:10:21

autóencoderes változattak.

Átirat · 2:10:24

Azt tudjuk eltudni, hogy ezt a grátautóencodere

Átirat · 2:10:27

és a gráffal játszós autóencodere

Átirat · 2:10:29

egy kicsi valaki belené.

Átirat · 2:10:30

Ez egy olyan cikk, ami három oldal,

Átirat · 2:10:32

és akkor egy oldalhivakkozás,

Átirat · 2:10:34

például ilyenekre számítsuk,

Átirat · 2:10:36

ezekben is ilyen gécienek vannak.

Átirat · 2:10:39

Na, és akkor gyakorlatilag,

Átirat · 2:10:41

ha valaki kedvet kapott ehhez,

Átirat · 2:10:44

hogy gráftókkal szeretne foglalkozni,

Átirat · 2:10:46

akkor két könyvtárat tudok neki ajánlani.

Átirat · 2:10:49

Az egyik a PyG,

Átirat · 2:10:51

ez a PyTorch geometrik,

Átirat · 2:10:52

és a másik az a DGL.

Átirat · 2:10:54

A DGL mögött teszofrót is használhatunk,

Átirat · 2:10:57

vagy PyTorchot.

Átirat · 2:10:59

A PyG fölött viszont csak PyTorchot.

Átirat · 2:11:02

Én az előbbiket használom,

Átirat · 2:11:03

az utóbbi PyG-t,

Átirat · 2:11:05

a PyTorch geometriket,

Átirat · 2:11:06

mert folyamatosan karkat tartják,

Átirat · 2:11:08

és ez egy nagy eredmény.

Átirat · 2:11:09

Kicsit beszélek a heterogén gráfokról.

Átirat · 2:11:12

A heterogén gráfok, olyan gráfok,

Átirat · 2:11:13

ahol a csúcsok különbözőek.

Átirat · 2:11:15

Ez azért lehet fontos,

Átirat · 2:11:17

mert lehet, hogy a valóság,

Átirat · 2:11:19

a való életben nagyon sokat találkozunk ezekkel.

Átirat · 2:11:22

Lehet, hogy nagyon furcsa nevet,

Átirat · 2:11:24

de mondjuk például IMDB-nek,

Átirat · 2:11:27

vagy most már annyi, amit így érjenek,

Átirat · 2:11:30

csak így lehet tenni.

Átirat · 2:11:31

IMDB felhasználók is filmek vannak,

Átirat · 2:11:34

azért különböző csúcsok,

Átirat · 2:11:36

és a felhasználó írhat a filmház valami értékelést.

Átirat · 2:11:39

Tehát az élet olyan gráfunk lesz,

Átirat · 2:11:42

amiben teljesen különböző adataim lesznek.

Átirat · 2:11:46

És ezt is tudjuk kezelni,

Átirat · 2:11:48

azért,

Átirat · 2:11:49

az egyik kezelés az,

Átirat · 2:11:50

hogy ugyanazokat a modelleket felhasználjuk,

Átirat · 2:11:52

mert végköznek erre speciális modellek is.

Átirat · 2:11:55

Tehát ugyanazok, amiket homogén rendszerben működtek,

Átirat · 2:11:58

ezek működnek heterogénben is,

Átirat · 2:12:00

csak sokkal magyarul több lesz.

Átirat · 2:12:02

Valami ilyen fog belőle történni,

Átirat · 2:12:04

ezáltal sokkal lassabb.

Átirat · 2:12:06

Tehát, hogyha valaki ilyet kezdett csinálni,

Átirat · 2:12:10

és talál olyan gráfokat, amikben egymillió mód van,

Átirat · 2:12:13

akkor számíthat arra, hogy ezért ez nem lesz a leggyorsabb.

Átirat · 2:12:18

És ezt én most kihagyom,

Átirat · 2:12:20

és beszélek egy kicsit, hogy csatlakozza,

Átirat · 2:12:23

szintén az előttemű előadáshoz.

Átirat · 2:12:26

Ott volt a ragokról megemlítés,

Átirat · 2:12:31

és van olyan gráfod,

Átirat · 2:12:33

ami azt csinálja, hogy azt képzeljük el,

Átirat · 2:12:35

hogy pont ez az általános mesterséges intelligencia felé

Átirat · 2:12:38

akarnak elmenni,

Átirat · 2:12:39

hogy van egy ilyen nagyon nagy dokumentumaim,

Átirat · 2:12:41

és abból próbál nekünk egy ilyen valóis gráfot előállítani.

Átirat · 2:12:44

Tehát egy igazából ilyen tudás gráfok,

Átirat · 2:12:47

amiben benne vannak a fogalmak,

Átirat · 2:12:49

és a fogalmak közötti kapcsolatok.

Átirat · 2:12:51

Ez akár, ez nagyon segít abban,

Átirat · 2:12:54

hogy akár nagyon nagy információt feltolgozzunk.

Átirat · 2:12:58

És amivel én most foglalkozom,

Átirat · 2:13:00

egy kicsit kiállt nekünk,

Átirat · 2:13:02

és így berakom, hogy én FM-t

Átirat · 2:13:04

tradícionálisan E1G generálásával foglalkoztam,

Átirat · 2:13:08

de most FM-eli jelekkel,

Átirat · 2:13:10

és ami engem érdekes,

Átirat · 2:13:12

és így rá fogok térni a gráfkondukciós,

Átirat · 2:13:14

meg a gráfos világon a hátrányainak,

Átirat · 2:13:17

engem az időveliség érdekel,

Átirat · 2:13:19

tehát, hogy mi van akkor,

Átirat · 2:13:21

hogyha a bemenő mátrixon valóban egy jel,

Átirat · 2:13:24

tehát valóban az időfüggvényen,

Átirat · 2:13:26

illetve van egy olyan probléma,

Átirat · 2:13:28

hogy mi van akkor, hogyha a gráfunk dinamikus,

Átirat · 2:13:30

értem, az alatt a dinamikus,

Átirat · 2:13:32

megjelenne új élet, új nótok.

Átirat · 2:13:34

A valóságban egy szociális háló ilyen,

Átirat · 2:13:36

ugye regisztrálunk egy hónapra,

Átirat · 2:13:38

megjelenik egy új csoport,

Átirat · 2:13:40

barátom lesz valaki, megjelenik egy új év.

Átirat · 2:13:42

Ez mit eredményez?

Átirat · 2:13:44

A szorszívossági mátrixon,

Átirat · 2:13:46

az organizációi mátrixon megváltozik.

Átirat · 2:13:48

Tehát minden egyes esetben újra meg újra kell

Átirat · 2:13:50

szolgálnom a hálót, használhatatlan,

Átirat · 2:13:52

bocsánat ezekben az esetekben,

Átirat · 2:13:54

ezek a megközelítések.

Átirat · 2:13:56

Tehát ez az egyik kihívás,

Átirat · 2:13:58

amire fel szeretném hívni a figyelmet,

Átirat · 2:14:00

hát, ha valaki most meg lelkesedésből

Átirat · 2:14:02

érdeklődik egy irány,

Átirat · 2:14:04

tehát a dinamikus gráfok.

Átirat · 2:14:06

Kihívás az X-frame nevű idő,

Átirat · 2:14:08

tehát hogy be fogjátok megmagyarázni,

Átirat · 2:14:10

vannak vár rá modellek,

Átirat · 2:14:14

ami további optimalizációra adódhat.

Átirat · 2:14:18

Illetve,

Átirat · 2:14:20

amit még szeretnék felmondani,

Átirat · 2:14:22

ez egy ilyen megjegyzés,

Átirat · 2:14:24

hogy a gráfos világban a mélyebb háló

Átirat · 2:14:26

nem jó háló.

Átirat · 2:14:28

Tehát a képeknél tapasztalhatjuk azt,

Átirat · 2:14:30

hogy valamilyen 128 rétegen,

Átirat · 2:14:32

vagy nem tudom hány rétegen,

Átirat · 2:14:34

a gráfos világban ez nem fog működni,

Átirat · 2:14:36

a gráfok általában

Átirat · 2:14:38

a valóságban sparszok.

Átirat · 2:14:40

Ez azt jelenti,

Átirat · 2:14:42

hogy kevés él van ahhoz képe,

Átirat · 2:14:44

vagy hány csomó ponton van.

Átirat · 2:14:46

Ha beregondolunk abba,

Átirat · 2:14:48

hogy hány ember él a Földön,

Átirat · 2:14:50

és hányat ismerünk belőle,

Átirat · 2:14:52

akkor éreztetjük,

Átirat · 2:14:54

hogy van még igazság előtt.

Átirat · 2:14:58

Tehát,

Átirat · 2:15:00

és emiatt,

Átirat · 2:15:02

hogyha nagyon mély hálót csinálnánk,

Átirat · 2:15:04

hogy megjelenik egy olyan jelenség,

Átirat · 2:15:06

amit úgy hívnak, hogy overshooting,

Átirat · 2:15:08

így ellaposítja az eredményünket,

Átirat · 2:15:10

és használhatatlan lesz.

Átirat · 2:15:12

Tehát ha valakihez ezt fog foglalkozni,

Átirat · 2:15:14

nem kell nagyon mély hálókat csinálni.

Átirat · 2:15:16

Igen,

Átirat · 2:15:18

és amiről még szeretnénk beszélni,

Átirat · 2:15:20

az,

Átirat · 2:15:22

amit mondtam a két mód között,

Átirat · 2:15:24

nem egyértelmű, hogy tudjuk megmondani,

Átirat · 2:15:26

hogy két csomó pont

Átirat · 2:15:28

hasonlít egymással,

Átirat · 2:15:30

hogy közel vannak egymáshoz.

Átirat · 2:15:32

Azon a homofilia,

Átirat · 2:15:34

ez azt jelenti, hogy azt mondjuk,

Átirat · 2:15:36

hogy vagyok én,

Átirat · 2:15:38

a központi csomó pont,

Átirat · 2:15:40

és a szomszéd anyjukhoz biztos hasonló leszek.

Átirat · 2:15:42

Tehát ez a feltétleszésem.

Átirat · 2:15:44

Van a második,

Átirat · 2:15:46

a heterofilia,

Átirat · 2:15:48

az viszont az lesz,

Átirat · 2:15:50

hogy akkor lesz két csomó pont közöttiért,

Átirat · 2:15:52

hogyha az nagyon különbözne.

Átirat · 2:15:54

És van a harmadik,

Átirat · 2:15:56

amikor akkor hasonlít két csomó pont,

Átirat · 2:15:58

hogyha mondjuk itt ezen a képen látszik,

Átirat · 2:16:00

az U és az S hasonlít,

Átirat · 2:16:02

hiszen a szomszédjaink,

Átirat · 2:16:04

azok nagyon hasonló struktúrák követve.

Átirat · 2:16:06

És jelenleg

Átirat · 2:16:08

a reproporációs három

Átirat · 2:16:10

igazából erre koncentrálnak,

Átirat · 2:16:12

a szomszédokat fogják nézni.

Átirat · 2:16:14

Van a nóterek, amivel elindíthatjuk messzire

Átirat · 2:16:16

a hárot, de ezen is most

Átirat · 2:16:18

dolgozni foghatunk.

Átirat · 2:16:20

A no-to-back például ilyen,

Átirat · 2:16:22

azzal, hogy megpróbálja ilyen véletlesesen

Átirat · 2:16:24

is bejárni a kárpát, illetve ilyen

Átirat · 2:16:26

téletlesesen, tehát minél messzebbre

Átirat · 2:16:28

eljúgni.

Átirat · 2:16:30

Jó, de mint említettem,

Átirat · 2:16:32

a geometriai mégtanulás az nemcsak

Átirat · 2:16:34

a gráficon alkalmazott mégtanulás,

Átirat · 2:16:36

hanem reáltó mesek, halmazok,

Átirat · 2:16:38

stb.

Átirat · 2:16:40

És az egyik, a mes,

Átirat · 2:16:42

az például van egy, ez is a faust,

Átirat · 2:16:44

a pályától, a pályátócsban,

Átirat · 2:16:46

a pályátócs a metrikben,

Átirat · 2:16:48

és van egy mesünk például egy emberről,

Átirat · 2:16:50

és meg a szegmentálni szeretnénk,

Átirat · 2:16:52

hogy a testvészek hol vannak.

Átirat · 2:16:54

Ezek konvolúciós hálóval nem tudunk meghiállni

Átirat · 2:16:56

ennek a feladatnak, hanem

Átirat · 2:16:58

graf-konvolúciós hálót tudunk használni,

Átirat · 2:17:00

ahol megkapjuk az

Átirat · 2:17:02

embeddingeket, és utána az osztályozást

Átirat · 2:17:04

elvégezhetjük.

Átirat · 2:17:06

Jó, és akkor

Átirat · 2:17:08

visszatérnénk az előadás elejére,

Átirat · 2:17:10

hogy ez milyen fontos. Én mondtam,

Átirat · 2:17:12

hogy a metrik métervonás azt próbálja

Átirat · 2:17:14

megiskerni, hogy ha van egy adatunk,

Átirat · 2:17:16

amit jelnek hívnak, nem hiába,

Átirat · 2:17:18

és van egy doménünk,

Átirat · 2:17:20

amit ez az adat jelértelmezett,

Átirat · 2:17:22

akkor azt állítja, hogy ez meghatározza

Átirat · 2:17:24

a neurális hálókat,

Átirat · 2:17:26

a neurális hálók architektúráját.

Átirat · 2:17:28

Tehát

Átirat · 2:17:30

valamiféle szabályszükséget

Átirat · 2:17:32

akarunk találni, hogy

Átirat · 2:17:34

milyen térben, milyen adatstruktúrában,

Átirat · 2:17:36

milyen adaton van,

Átirat · 2:17:38

arra baj van, milyen hálók fognak működni.

Átirat · 2:17:40

Arra baj van, milyen hálók fognak működni.

Átirat · 2:17:42

Arra baj van, milyen hálók fognak működni.

Átirat · 2:17:44

És ezt szeretném így átadni

Átirat · 2:17:46

az előadás utolsó szájában,

Átirat · 2:17:48

hogy megnéztük,

Átirat · 2:17:50

hogy igazából

Átirat · 2:17:52

a konvulsziós-neurális hálók

Átirat · 2:17:54

vannak hasonlóságok és különbségek is

Átirat · 2:17:56

a képeken alkalmazó konvulsziós-neurális hálók között.

Átirat · 2:17:58

a képeken alkalmazó konvulsziós-neurális hálók között.

Átirat · 2:18:00

A motivációt is megpróbáltam átadni,

Átirat · 2:18:02

hogy ez általános

Átirat · 2:18:04

gépi tanulás felé elmegyünk,

Átirat · 2:18:06

ezért pontosak a gráfok,

Átirat · 2:18:08

illetve

Átirat · 2:18:12

szabályszerűségre is ráadhatunk vizsgálni.

Átirat · 2:18:14

Ha be gondolunk,

Átirat · 2:18:16

nagy szabályszerűségeket nagyon nehéz

Átirat · 2:18:18

megállapítani

Átirat · 2:18:21

a mély tanulásban.

Átirat · 2:18:23

Tehát csak jönnek a cikkek,

Átirat · 2:18:25

de hogy valamit tudjunk mondani,

Átirat · 2:18:27

valami korlátozó dolgok,

Átirat · 2:18:29

az nagyon nehéz.

Átirat · 2:18:31

És erre tanulszik, ami a meccsen mély tanulás.

Átirat · 2:18:33

És akkor itt vannak a forrásunk,

Átirat · 2:18:35

különböző cikkeket is betettem,

Átirat · 2:18:37

az elméletes mértranszformátokról,

Átirat · 2:18:39

az első cikk szerintem csak erről szól,

Átirat · 2:18:41

és utána meg a többi algoritmus,

Átirat · 2:18:43

ahol a képek ehhez kerülnek,

Átirat · 2:18:45

amikor ezeket nem tudja nézni, illetve a képek.

Átirat · 2:18:47

És nagyon köszönöm a figyelmet,

Átirat · 2:18:49

és akkor további szép estét!

Témák

MI-támogatott

Gráfneurális hálózatok Gépi tanulás

Összefoglaló

MI-támogatott

Szegletes Luca a geometriai mélytanulás alapjait vezeti be a klasszikus statisztikai tanulástól és neurális hálózatoktól kiindulva. Bemutatja, miért érdemes az adatok belső geometriáját, topológiáját és kapcsolati struktúráját is figyelembe venni, majd a gráfokat mint nem euklideszi adatstruktúrákat tárgyalja. Az előadás a képi konvolúció analógiáján keresztül jut el a gráfkonvolúciókhoz, kitér a spektrális és térbeli megközelítésekre, a gráf Fourier-transzformációjára, valamint gyakorlati keretrendszerekre és alkalmazási példákra.

Videó navigáció

Fejezetek

MI-támogatott