Előadás

PULI modellek

Mesterséges intelligencia az iparban - Esettanulmányok és tapasztalatok

2024. május 28. 13:00BME I épület, IB025 terem · Budapest

Átirat · 1:36:19

most áttérünk egészen a magyar modellekre sikerült idehozni a körünkbe young ziran győzőt

Átirat · 1:36:29

aki a hunrendben a nyelvtudományi kutatóközpontban

Átirat · 1:36:35

a a magyar nagynyelvű modell motorját faragja és finomítgatja a csapatával

Átirat · 1:36:43

együtt természetesen őt halljuk az előadás egyszerű címe puliodellek é a szó köszönöm szépen lehet

Átirat · 1:36:55

sok szeretettel köszöntök mindenkit köszönöm a lehetőséget hogy előadhatok itt a meghívást és a bemutatást is valóban a kis

Átirat · 1:37:04

csapatunkkal gyakorlatilag én tanítom ezeket a modelleket úgyhogy kicsit a gyermekeimnek is mondhatnám őket úgyhogy ha valaki már nyomogatta és próbálta és

Átirat · 1:37:12

van negatív kritikája akkor óvatosan mert még személyesnek veszem na de a lényeg az hogy kicsit gondban is vagyok mert már több előadás

Átirat · 1:37:21

is volt a puliról itt és több személyben is úgyhogy és mindenféle oldalról már

Átirat · 1:37:27

mutogatták a pulit úgyhogy kezdek kifogyni a témából de igazából a nagyobb

Átirat · 1:37:32

probléma az inkább az hogy meglent ugye ez a gpt 4o ami hát azért kicsi eléggé

Átirat · 1:37:37

lenyűgöző be kell hogy valljuk itt nem is térnék ki a multimodális részéről nagyon jól összefoglót hallottuk az

Átirat · 1:37:44

előző előadásban inkább annyi csak a nyelvi részére de a lényeg az hogy valóban nagyon jó és amúgy tegnap meg is kérdeztem tőle hogy ismeri a pulimot

Átirat · 1:37:53

eket és és hát ugye fölment a internetre ugye ez volt ez is a a egy ilyen nagy előnye és így összeszedett néhány helyet mondjuk a

Átirat · 1:38:02

nyelvtudománynak a honlapjait az jó meg egy index cikkket és akkor ebből állította össze a kis összefoglalót ami be kell vajjam jó lett

Átirat · 1:38:10

úgyhogy és ez így egyszerűen elszomorít hogy eg kicsit hogy hogy érzem azt a

Átirat · 1:38:16

megint még egy lépéssel le vagyunk maradva de közben meg motivál is mert íy mutat egy tök jó irányt hogy merre is érdemes menni és közben valahol a

Átirat · 1:38:25

varázsa is itt van a kutatásunknak hogy hogy nagyon jók ezek a ezek a nagy

Átirat · 1:38:31

modellek mint a cse gpt gpt 4 de hogyha magyarra szeretnénk felzni a nulláról

Átirat · 1:38:37

akkor gyakorlatilag semmi nem működik és és minden szám az az az úgy nem jön ki a számok tehát hogy és és ez és ez nagyon ad egy ilyen tök jó motiváló erőt hogy

Átirat · 1:38:49

hogy hogy mégis egy kisebb csapattal kis kisebb erőforrással a nulláról mégis csak hogyan építünk ilyen modelleket és miért

Átirat · 1:38:57

nem működnek vagy miért működnek és egy olyan érdekes korban vagyunk ahol ezekkel a kutatásokkal hogy nem azon kitalálunk valamit azt megpróbálom

Átirat · 1:39:05

bebizonyítani hanem kipróbálom aztán megpróbálom kitalálni hogy miért pont úgy működik és és itt ugye néha hónapokig kell várni mint kicsit

Átirat · 1:39:14

visszamentünk a régi korban hogy hónapokig várunk egy eredményre és akkor utána így kiértékeljük és nagyjából az előadás is pont ezért

Átirat · 1:39:22

igazából a arról fog szólni hogy hogy hogy hogy ezek a modellek építése az

Átirat · 1:39:28

milyen lépésekből állt milyen kihívásokkal szembesültünk és milyen

Átirat · 1:39:35

döntéseket hoztunk miért pont azokat a döntéseket és és igazából a szerintem az előadás nagyrésze inkább kérdésekből fog fog állni hogy hogy hogy miért is nehéz

Átirat · 1:39:43

úolérni mondjuk a a a piacot és és miért nehéz eleg döntést meghozni és milyen nehézségek vannak igazából úgyhogy nem biztos hogy olyan

Átirat · 1:39:53

ilyen pozitív hangvételű lesz az előadás de de így legalább egy kicsit a valós képet is megpróbáljuk megmutatni a háttérben

Átirat · 1:40:00

ugye jelenleg most három ilyen ilyen nyelv modellünk van ami ilyen nyers előtanított nyelvmodell abból kettő az az valóban a nulláról előtanított és egy

Átirat · 1:40:10

meg így továbbtanított modell így vettünk egy jólműködő készmellt és továbbtanítottuk ugye van egy egynyyelvű puli gpt 3 sx-ünk ami egy ilyen 6,7

Átirat · 1:40:20

milliárd paraméteres ez magyar nyelvű ennek a tanítása ilyen három hét körül volt ilyen nyolc darab a00-as gépen aztán ez nagyon jó csak az a probléma

Átirat · 1:40:31

hogy rengeteg olyan feladat van ami több nyelvűséget igényel illetve sok kutatás

Átirat · 1:40:37

is abba az irányba mutat most már egyre inkább hogy nagyon sokat tudunk transzfert tanulni más nyelvekből és és éppen ezért mi is elmentünk több nyelvű

Átirat · 1:40:46

irányba ezért van egy háromnyyelvű gp trió ez a puli gp trió ez is egy ilyen

Átirat · 1:40:51

körülbelül 7 milliárd paraméteres kicsit nagyobb azért mert hogy mindegyikhez saját szótárat tanítottunk az itt a gyakorlatban azért

Átirat · 1:40:59

megmutatkozik főleg hogy a tokenzámokban megugranak ezek a a részben a tokenizáció miatt úgyhogy itt mind úgyhogy itt ugye saját szótárakat is

Átirat · 1:41:07

tanítatunk és a gp trio esetén ugye próbáltunk egy ilyen három nyelvűt magyar angol és kínait is kiegyensúlyozva tanítani épp ezért

Átirat · 1:41:14

szótárat is kiegyensúlyoztuk és akkor itt megnöveltünk ilyen 1000000-re ez is dobta meg a paraméterek számát és akkor igazából ez ez volt az egyik alap fő

Átirat · 1:41:24

alapmodellünk amivel a kísérleteket végeztük aztán az utóbbi időben főleg a a piaci igényeknek főleg a vállalatokkal való kommunikáció során felmerült a az

Átirat · 1:41:34

igény hogy hogy ugye nagyon sokan elkezdték használni a láma kettőt és az milyen jól működik csak hogy a magyar tudása nem annyira jó

Átirat · 1:41:41

és éppen ezért elmentünk egy ilyen irányba hogy egy ilyen láma kettőt tovább hangoltunk gyakorlatilag magyarosítottunk ugye mindegyik modell

Átirat · 1:41:49

alapvetően ez a 6-7 milliárd paraméter körüli nagyságrendő végzünk kísérleteket nagyobb modellekkel is de alapvetően főleg kapacitás miatt is de leginkább ez

Átirat · 1:41:59

a hetes méretű ami ugye azért a háromhoz képest is elég kicsi de hát a négyhez képest már nem is mérjük össze magunkat ott már alig látszod napuli ugye ahz

Átirat · 1:42:07

ugye 1000 milliárd vagy ugy 1,7 billió paraméteres de ugye abból próbálunk

Átirat · 1:42:13

előnyykovácsolni hogy ugye nekünk több magyar szöveget látott a mi modelljeink

Átirat · 1:42:19

és és próbáljuk ebből valam az előnyt kovácsolni ugye előtanítás szempontjából

Átirat · 1:42:25

hogyha ezt a kettő modell a nulláról tanított modelleket nézzük akkor ezek mind ilyen sima a régebbi gpt3 típusú modellek ugye sima ez a következő szó

Átirat · 1:42:38

prediktálást hogy ez a simán hogyan kell folytatni szöveget módszerével ugye ami azért csalási külön nevet adni neki mert ugye maga a decoder

Átirat · 1:42:47

transformer az az ugye képes erre tehát gyakorlatilag nyersen adjuk oda a szöveget és és akkor az már meg megtanulja ezt a

Átirat · 1:42:54

képességet de a lényeg az ugye hogy hogy pont azért hogy de azért ha mostani nagy

Átirat · 1:42:59

nyelvmodellek ha nem beszélünk a multimodális modellekről akkor ugye mind így lettek kiképezve tehát gyakorlatilag én azt mondom hogy szöveggenátorokról

Átirat · 1:43:08

beszélünk még mindig és nem feltételül mesterséges intelligenciáról még persze a chat gpt és az alkalmazás szinten már nagyon sok mesterséges intelligencia

Átirat · 1:43:18

alapú hát modult beleraktak amitől azért azért közelítünk felé de azért ha nyers előtanított modelleket nézünk azért én

Átirat · 1:43:25

azt mondanám hogy még mindig szöveggenerátorokról beszélünk és ugye ezeknek a a nulláról való tanítás során ugye jelenleg egy ilyen 41 milliárd

Átirat · 1:43:35

szavas korpuszból tanítottuk jelenleg ez f zajlik a gyűjtés most már ilyen 6080

Átirat · 1:43:41

milliárd szó között vagyunk nagyon nehéz megmond belőni és azért ilyen 20 milliárdokkal dobálozunk mert hogy nagyon sok a deduplikáció és és és egy

Átirat · 1:43:49

sima nem tudom sort mínusz u az nem oldja meg és éppen ezért néha nehéz belőni és főleg ekkora

Átirat · 1:43:56

adatban nagyon nehéz átlátni hogy hogy mi az ami ténylegesen deduplikáció és mondjuk csak egy pár szóban térrel és a heurisztika valamiért nem szűrte ki

Átirat · 1:44:04

tehát hogy hogy hogy de azért így egy ilyen 6080 nagyságrendűben van úgyhogy a

Átirat · 1:44:09

következő modell ha tanítjuk a nulláról vagy nem a nulláról akkor már egy nagyobb mod korpuszból már tudjuk tanítani de ugye az egyik probléma már

Átirat · 1:44:17

itt kezdődik hogy hát nem honnan sz szerez az adatot hát az internetről úgyhogy hogy ezek a modellnek így a egy kicsit így a minőségét is

Átirat · 1:44:26

hát íy meghatározza hogy hogy azért az internetről szedett szöveg a nagyja ugye

Átirat · 1:44:32

láthattuk a gpt 3-nál kutatásában hogy például a könyveket megkétszerezte így megduplikálta a tehát kétszer tette vagy

Átirat · 1:44:41

háromszor beletette a könyveket azért hogy egy kicsit tisztább adathoz hozzáférjenek ezáltal de de azért mégis így is a nagy azért

Átirat · 1:44:49

még mindig és most már együttműködünk így a a könyv a nemzeti szé könyvtárral és a meckel is és és gyűlnek a könyvek is de hát az a baj hogy azért nagyon

Átirat · 1:45:00

ritkán van az hogy tiszta adatot kapunk sokszor ócérezett szöveget sokszor így valahogy ilyen furán tárolt meg furán kódolt tehát hogy így

Átirat · 1:45:10

nagyon sok esetben nem kapunk olyan tiszta adatot ami csak csökkenti a

Átirat · 1:45:15

méretet tehát hogy végsősoran még se jutunk annyi adathoz aztán ugye hát ugye a három ni modellünk készítésekor ugye ott valahol

Átirat · 1:45:25

az volt a a szempontunk hogy hogy egy olyan modellel kísérletezzünk több nyelvi modellel ahol nem elnyomva van a magyar hanem

Átirat · 1:45:32

kiegyensúlyozottan és és a másik az hogy meg az arra is kíváncsiak voltunk hogy mennyire tud transzferálni a a többi nyelvnek a tudásából és akkor ugye

Átirat · 1:45:41

elkészültek így a modelljeink és és hát akkor láthattuk ugy a chat gpt-nek a a a

Átirat · 1:45:47

kísérlete során hogy érdemes finomhangolni őket tehát hogy nem nyelen promptolni mert az nagyon bizonyt és nehéz úgy belőni a minőségét tehát

Átirat · 1:45:55

mindenképp érdemes finom hangolni és hát akkor finom hangoljuk és akkor itt volt az első probléma hát nincsen magyar adatunk és de szerencsére ugye látáok a

Átirat · 1:46:05

chat gpt esetén is amikor megjelent hogy lehet magyarul beszélgetni vele úgy hogy

Átirat · 1:46:10

a cikke alapján legalábbis és his és ha hihetünk a cikkének hogy az első változatban a finom hangol anyagban nem volt magyar adat és tehát magyarul az

Átirat · 1:46:20

hogy az alapmodell tud magyarul tud transzferál abból a tudásból és mégis tud magyarul válaszolni úgyhogy úgyhogy ezt a kísérletet kezdtük el mi is

Átirat · 1:46:27

úgyhogy egy ilyen angol nyelvű ez a stanford alpakás corpuson tanítottunk ezek ilyen generált promptok és válaszok ch mondjuk chat gpt-től de úgy de

Átirat · 1:46:38

igazából egész jó nagyon jók csak angol nyelven vannak úgyhogy ezzel finomhangoltuk a három nyelvi modellünket és akkor azt vártuk tőle

Átirat · 1:46:46

hogy hogy attól hogy hogy van egy jó többnyelvi modellünk amit tud magyarul és angolul viszont finom hangolás során csak a angolul tanítottuk mégis ha

Átirat · 1:46:54

magyarul szólítjuk meg magyarul válaszol és igazából be is jött és ez az első érdekes tapasztalat hogy működik tehát hogy hogy kértük magyarra hogy csináljon

Átirat · 1:47:04

nekünk vagy tehát listázza ki a neveket kilistázta sőt ami az érdekes itt a az hogy a győzi két ugye az egy ragazott alak és és így szépen jó alakba írta ki

Átirat · 1:47:14

azt hogy győzik-e tehát hogy így tökre magyaros dolgokat művelt viszont azért

Átirat · 1:47:20

vannak kisebb problémái hogy nagyon sok door angolul válaszol tehát és és az az érdekes viszont hogy itt és akkor itt kezdődött el az első ilyen ilyen kis

Átirat · 1:47:29

gondolat megszületni hogy hogy valóban valahol a a a modell ott ki megtanul

Átirat · 1:47:34

valamit és az a valami az egy olyan absztrakt tudás ami és igazából az hogy milyen nyelven jelenti meg az egy az már valahol csak reprezentáció és itt is az

Átirat · 1:47:42

van hogy hogy magyarul kérdeztem de angolul válaszol viszont releváns választ tehát hogy hogy tök jó választ adott csak annyi hogy angolult válaszolt

Átirat · 1:47:50

és de aztán néha olyan is történt hogy a mondat közben ben vagyis váltott angolra tehát hogy ilyen ilyen fura dolgok

Átirat · 1:47:58

viszont de azért valahol látszik hogy működik sőt hogyha mindig megkérem hogy mindenképp magyarul válaszolni akkor magyarul válaszol tehát hogy hogy hogy

Átirat · 1:48:06

azért valahol működik ez de azért mégis látjuk hogy azért menj el kéne menni a magyar irányba és akkor amúgy nagyon sokan

Átirat · 1:48:14

hét tehát hogíy magánszemélyek is meg vállalatok is biztattak minket hogy miért nem próbálkozunk gépi fordítással úgyhogy mondtuk hogy hát hogyha már

Átirat · 1:48:22

mindenki ezt akarja akkor legyen ez tehát hogy akkor gépi fordítás irányba elmentünk ami az első az hogy az az érdekes hogy

Átirat · 1:48:31

egyrészt megmaradt ez a félig angol félig magyar ezt ezt ezt ezt nem teljesen értettük hogy miért de igazából nagyobb probléma nem is ez hanem az hogy

Átirat · 1:48:39

hogy hogy annyira érzékeny volt a modell hogy megtanulta a gépi fordítás hibáit tehát szerintem aki használt már gépi fordított az mondjuk egy google fordító

Átirat · 1:48:49

régebbi változatát az szerintem találkozott ilyen eseménnyel vagy ilyen jelenséggel hogy hogy így nem tudom állítmány nélkül ragozás nélkül így nem

Átirat · 1:48:55

tudom leír egy mondatot és és és nagyon gyakran ilyen mondatokat generál tehát megtanulta a gb fordítás hibái tehát hogy ilyen mondhatni hogy nagyon okos a

Átirat · 1:49:03

modell hogy ezeket a hibákat is megtanult csak hogy az a baj hogy nekünk ez nem jó és ugye láthatunk kutatásokat abba az irányba hogy sokan használják a

Átirat · 1:49:09

gépi fordítást de csak a promptot fordítják le és ugye a választ azt legeneráltatja a mondjuk a chat gpt-vel mondjuk magyarul és akkor egy ilyen

Átirat · 1:49:18

hibridet adnak oda mert hogy nagyon fontos hogy az a hogy amúgy tényleg hiba tűrő tehát hogy a bemenet az nem vagy a hibás de a kimenet viszont legyen jó és

Átirat · 1:49:26

ne tanuljon meg hibákat és és akkor ugye ezek után azt mondtuk hogy

Átirat · 1:49:33

akkor kell a jó minőségű magyar adat és és akkor elkezdtük gyűjteni az első az

Átirat · 1:49:39

ami hogy már lefordítottuk a stanford alpakát gépi fordítóval akkor az első

Átirat · 1:49:44

dolog hogy akkor azt elkezdtük kiadni ilyen embereknek hogy javítsák ki tehát hogy akkor az legyen normális abból abból összegyűlt ilyen 2000

Átirat · 1:49:53

és aztán közben mellé elkezdtünk ilyen félig automatikusan előgenerálni generálni ilyen promptokat például ugye vannak bencchmarkok magyarra azokból

Átirat · 1:50:02

lehet az hogy péá h helyes a következő mondat és akkor adok egy mondatot és akkor igen helyes nem nem helyes e ugye ez egy ztályozó feladat de ugye

Átirat · 1:50:09

promptosítható úgymond aztán időközben hugye elkezdtük kitenni a demónkat úgyhogy a hogyhaog az emberek elkezdték nyomogatni úgyhogy ott összegyűlt egy

Átirat · 1:50:17

ilyen jó jó nagy ilyen kérdésadatbázis ott nem a a modell válaszát adtuk meg hanem ugye emberekkel megválaszoltattuk hogy mit is kéne rá válaszolni és akkor

Átirat · 1:50:26

ezt visszaforgattuk ez azért is volt fontos mert ugye ha erre kíváncsiak a az emberek akkor nyilván jó hogyha a modell is tud ezekre válaszolni aztán ugye

Átirat · 1:50:34

érettségi feladatokat tettünk bele aztán itt idővel gyűltek még ugye ilyen együttműködő partnerektől ilyen ilyen együttműködések hogy mi adunk nekik

Átirat · 1:50:43

finom hangolt modellt ők odaadják az adatot nekünk tanításra és akkor és akkor így néhány ilyen éles adat is bekerült aztán

Átirat · 1:50:52

a nyilván mi is szeretnénk előbutó elmenni ilyen chates irányba úgyhogy viszont itt hát az egyik probléma az hogy a chat egy ilyen promthoz képes

Átirat · 1:50:59

ahol egy kérdés egy válasz van azért a chat az egy ilyen jó nagy mélyiségű és összefüggőnek kell lenni hát ennek az előállítása kézzel nagyon költséges

Átirat · 1:51:07

úgyhogy jobb hián modell hát nyelvmodellel generáltattunk és az az érdekes hogy egész jó tehát hogy hogy megtörténik az hogy elkezdünk

Átirat · 1:51:15

szintetikus adatokkal így higítani mondjuk azt hogy a saját modelljeinket

Átirat · 1:51:21

és és akkor szépen így lassan összeegt

Átirat · 1:51:26

gyűlt egy ilyen 15000es nagyságrendű promt anyagunk a a a mai napig é amú ez

Átirat · 1:51:31

folyamatosan gyűli folyamatosan forrásokból csak ugye az a probléma hogy csak ugye nagyságrendekkel jövök megint hogy ezt a 15000ret körülbelül fél év

Átirat · 1:51:40

alatt gyűjtöttük össze de hát az idő alatt már kijötte a gptnek a cikke hogy ők már több 100zá ezres pronttal rendelkeznek és ez volt tavaly tehát

Átirat · 1:51:48

hogy hogy ha ha nem állt meg az az ütem akkor szerintem most már milliós nagyságrendben van ak neki csak finom hangoló anyaguk tehát hogy ilyen

Átirat · 1:51:55

szempontból is nagyon nehéz velük így hát versenyezni és akkor ezzel tanítottuk be ugye mi a a ilyen ilyen instruct modelleket ilyen utasítás

Átirat · 1:52:04

követéseket tehát kérdés-válaszolós modellek inká és hát azt kell mondjam hogy hol működik hol nem tehát hogy bizonytalan és és akkor felmerült a

Átirat · 1:52:13

kérdés hogy akkor mitől bizonytalan akkor nem elég az a a a finom hangolanag vagy az alapmodellünk sem olyan jó már és akkor itt időközben

Átirat · 1:52:23

elindult ugye a a sok párbeszéd a a vállalatokkal és és nekik volt egy ilyen igény hogy hogy elkezdték a láma kettőt használni és nagyon jó de közben van a

Átirat · 1:52:32

több probléma is az egyik az hogy magyarul nem nagyon tud illetve a másik probléma hogy nagyon gyorsan kicsúsznak ebből a a az ablakméretből ugye 4000-es

Átirat · 1:52:41

ablakmérete van és hogy angol szótárat használ ami hogyha a magyar szöveget bedobjuk akkor méréseink szerint ilyen két és fél háromszorosárra növeli a

Átirat · 1:52:49

token számot ami ugye azért sokat számít és és és abból a 4é000res ablakból gyorsan kicsúsznak és akkor főleg egy ilyen ragos rendszerbe ugye

Átirat · 1:52:57

visszaforgatjuk a prontokat és akkor éppen ezért elmentünk egy ilyen irányba hogy akkor magyarosítunk egy láma kettőt és ugye a kontesztus ablakot itt a

Átirat · 1:53:06

together computernek volt már egy ilyen kész modellje az finom hangoltuk tovább aminek már 32000-re lett növelve a token száma és és ugye mivel hogy hogy a

Átirat · 1:53:14

hosszú a kontextus ezért alapvetően hosszú dokumentumokat adtunk neki tehát hogy és éppen ezért nem is dobtuk bele az egész puli tanítóanyagot hanem csak

Átirat · 1:53:22

milliárd szav n8ol milliárd szavas hosszú dokumentumokat és és akkor itt is

Átirat · 1:53:28

ugye cikkekből is meg tapasztalatból is azt láttuk ahogy a közben a checkpointokat figyelgettük hogy elkezdett felejteni angolul és akkor az

Átirat · 1:53:35

a probléma hogy azzal hogy angolul felejtel feladatokat is felejtel amúgy és éppen ezért mindenkinek az ajánlására meg tapasztalat alapján is elkezdtük a

Átirat · 1:53:43

felénél visszakeverni angol adatokat azért hogy visszajöjjön az angol tudása és ezáltal a a háttértudása is és akkor itt elszom maradom mindig iszonyatosan

Átirat · 1:53:53

merthogy ez a modell amit a láma 2 csinál tovább finom hangolásával nagyon jó modellt sikerült létrehozni magyarra és és így szifikánsan jobban teljesít

Átirat · 1:54:04

mint a a nulláról tanított magyar modelljeink ugyanazon az instruct finom hangoláson és akkor itt merül fö a kérdés hogy akkor mitől jobb hát akkor

Átirat · 1:54:12

valószínűleg részben jó kicsi architektúra különbség van de azért szerintem akkora nincsen azért hogy akkor valószínűleg az a két billió szó

Átirat · 1:54:19

lesz amit ő angol angolul látott és itt jön egy kis ilyen személyes

Átirat · 1:54:24

kitérő és személyes vélemény amit lehet cáfolni lehet velem vitatkozni de de én

Átirat · 1:54:31

legalábbis azt látom hogy hogy hogy itt a modellnek szüksége van arra hogy

Átirat · 1:54:37

fölépítse ezt a világot és mi valahol azt várjuk el hogy hogy ez ennek a modellnek a a világ reprezentációja valamennyire hasonlítson a miénkhez csak

Átirat · 1:54:46

hogy az a probléma hogy itt a amíg itt egy nyelvmodell csak a szövegen keresztül találkozik azzal a világgal amit mi ismerünk és a szövegen keresztül

Átirat · 1:54:54

építi fel ezért valóban neki nagy mennyiségű szövegre van szüksége hogy minél teljesebb legyen az a világ amit mi ugye látásunkkal hallásunkkal más

Átirat · 1:55:04

úton is megtapasztaljuk és és mivel hogy egy szöveggenerátor beszélb is én szövegerátorról beszélek ezért nagyon ezért ugye nagyon nehéz beszélni vagy

Átirat · 1:55:14

nagyon nehéz úgy megközelít ezt a témát hogy például

Átirat · 1:55:19

a az index lehozta ezt a cikket amikor kijött a chgpt hogy pofátlanul hazudik ez a cgpt mert nem tudta ki kulceredin a férje hát én se tudom de de hogy hugye

Átirat · 1:55:29

alapból nehéz mondjuk erről beszélni hogy hazudik mi hát hogy az hazudik akinek mjuk szándéka van de egy szöveggenerátornak nem biztos hogy van

Átirat · 1:55:35

szándéka de de amúgy meg a másik az hogy egy másik példa amit a múlt héten kérdeztem meg a gpt-től hogy hogy mit tanult herm dr strang-ől és akkor ogy

Átirat · 1:55:45

szerintem nagyon kreatívan összekötötte az idő manipulálását és a időkövét és az idővel való dolgokat de de hogy megint egy arról beszélünk hogy hogy van egy

Átirat · 1:55:56

világ amit ő felépített a szövegből és a szöveg alapján neki nem elvárás hogy tudja hogy ők milyen világból származnak és hogy ők nem találkozhattak vagy

Átirat · 1:56:04

ilyesmi ezt nekünk tehát és mi felhasználó mégis ezt várjuk el tőle mert van nekünk egy világismeretünk hogy szerintünk a hermz ebből a könyvből van

Átirat · 1:56:13

a dr sing abból és ők nem találkozhattak de egy modelltől nem várhatjuk el ezt igazából és és akkor itt merül föl a kérdés hogy hogy mit kell tudni egy

Átirat · 1:56:22

modellnek és és akkor igazából itt van az hogy akkor nekünk mint fejlesztőknek

Átirat · 1:56:29

azt azon kell gondolkozni mindig hogy mire kéne tanítani a modellt hát valahol ugye chatgpt-nek ott a varázsa hogy hogy hogy hogy bárki taníthatja bármire vagy

Átirat · 1:56:38

bárki kérdezhe tőle bármit és és eznek az a nehézsége hogy akkor nekünk is

Átirat · 1:56:43

mindenre fel kell készülni tehát hogy hogy akkor írjon esszét oldjon meg matematikai egyenletet tudjon tudja ezt hogy mi magyarország fővárosa és hát hát

Átirat · 1:56:52

ugye azt is látjuk hogy hogy a c gpt esetén ugye vannak ilyen kitérő dolgok mint hogy ha megkérdezzük a orbán viktor korrupte- akkor ugye ez neki korrekt

Átirat · 1:57:01

politikai korrekt választ kell hogy adjon nehogy megsértsen valakit és és hát igazából ez mind- mindind olyan dolog amit nekünk bele kell rakni ahhoz

Átirat · 1:57:10

hogy azt akarjuk hogy egy ilyen modellt ne szedjenek szét és és jól működjön és valahol közelítse azt a működés mint mint mondjuk egy ember és csak

Átirat · 1:57:19

érdekességképp kevés az időm úgyhogy nem teszem föl ezt a kérdést így a közönségnek de ebbe a 15000 promba ahhoz hogy kísérletképpen

Átirat · 1:57:29

ki tudja kerülni ezt a választ hogy orbán viktor vagy xy korrupte mi négy darab promptot tettünk be és és egész magabiztosan ki tudja kerülni és akkor

Átirat · 1:57:38

itt lehet látni azt a különbséget hogy vagy azt a azt a nagyságrendet hogy ha már négy a 15000-ből négy prompt ennyire be tudja folyásolni ezt az egészet akkor

Átirat · 1:57:47

mondjuk a open anak van egy nem tudom milliós promptja akkor akkor ezért is

Átirat · 1:57:53

nagyon ilyen színes és széleskörű a tudása és hát ugye pont emiatt lesz

Átirat · 1:57:59

nehéz dolgunk mert ugye ahol ezt nekünk is bele kell vinni ezt a tudást hogyha azt akarjuk hogy hogy hogy tudja azt hogy ki hermion és ki nem tudom gandalf

Átirat · 1:58:08

vagy bárki hogy nekünk meg kell tanul tanítani ezekre és hát mi se gondolhatunk mindenre hogy hogyha erre nem tudja a választ akkor mondjuk a

Átirat · 1:58:14

felhasználó mondjuk akkor így úgy ítél hogy rossz a modell illetve most pont múlt egy hónapja futottunk ebbe bele hogy fejlesztőként megint csak nem

Átirat · 1:58:23

gondolkozunk ilyesmiken de hát hát a főnököm föltette a kérdést hogy a pulinak hogy mondd el röviden ki vagy te hát és azt írta hogy zopen fejlesztette

Átirat · 1:58:31

és hát ez is olyan dolog hogy magamtól nem gondolkozé hogy akkor nekem ilyen promptot kéne belevinni hogy te nem a open a modelljve hanem xy tehát hogy és

Átirat · 1:58:41

akkor most megint taníthatom újra a modellt merth hogy ilyenre nem tudja a választ és és hát ugye és akkor ez még csak egy kis része azoknak ami ami ugye

Átirat · 1:58:50

arra a következő lépésként hogy akkor mire tanítjuk még ugye most nagyon divatos ez a az a megerősítéses tanulásos vonal vagy a vagy a dpo amihez

Átirat · 1:58:59

megint kell adatbázis aztán a politikai korrektségra való kezelések ez ez egy külön téma megint erőforrás hogy ilyen adatokat csináljunk kultúrspecifikus

Átirat · 1:59:09

adatok tudás most nem magyar népdalra gondolok hanem például kulcs eredina na ez sajnos ebbe a kategóriába tartozik tehát ahhoz hogy magyar specifikus

Átirat · 1:59:18

dolgokat tudjon nem csak a magyar népdalokról kell hogy tudjon hanem kulcseredináról is merthogy ez alapján ítél meg a felhasználó hogy nem tudja az

Átirat · 1:59:26

aktuális magyar dolgokat hát kinek mi a fontos de hát az a baj modellnek ilyesmikre is tudnia kell meg hát hugye a űfépecifikus tudást mindig ugye bele

Átirat · 1:59:35

kell vinni illetve ugye hát hogy el akarunk menni chates irányba akkor hát ilyen jó mély chates párbeszédeket is tudni kell előreállítani ami megint

Átirat · 1:59:42

kérdés hogy hogy honnan van ez a honnan lesz erőforrás ezeket előállítani és hát

Átirat · 1:59:48

nem is beszéltünk arról hogy a kiértékelés az egy külön kategória az hogy hogy az hogyha van is modellünk honnan tudjuk hogy ez mennyire jó arra

Átirat · 1:59:55

is benchmark és így tovább úgyhogy ez ez már teljesen kivezet innen és amúgy ugye

Átirat · 2:00:02

szerintem aki nem találkozott ezzel a felülettel az az annak ajánlom hogy vagy

Átirat · 2:00:07

hogy így remélem hogy nyomogatjátok és és bármilyen visszajelzésnek örülünk hiszen ezáltal is tudunk fejlődni hogyha hogyha adtok mindenféle visszajelzéseket

Átirat · 2:00:16

ugye demo oldalunk az a puli.yetut.hu a nyersmodelleink is rajta vannak meg a a ezek az instruct modell is illetve ugye a nyers előtanított modelljeink azok a

Átirat · 2:00:26

huging face oldalunkon ugye megtalálhatóak úgyhogy és például a a ez a lumix ugye ez ugye láma alapú ezért ugye nem korlátozhatjuk a lcensét tehát

Átirat · 2:00:35

üzleti alapon is használható köszönöm

Átirat · 2:00:45

szépen nagyon szépen köszönjük győző az előadást egy egy ilyen timites pint

Átirat · 2:00:52

neked is szeretettel átadok köszöntö fogad szeretettel nagyon jó az előadásb sokkal több kérdést vetett fel mint én például nem tudom hogy akkor végül is ki

Átirat · 2:01:02

kulcs eredin a férje ez ez nem derült ki meg a másikra sem kaptam választ az még jobban érdekel

Átirat · 2:01:11

a következő előadónk még fölszerelkezel

Átirat · 2:01:18

addigbe a következő előadónk a m bme aut ról érkezett bme vik és aut a eekler

Átirat · 2:01:29

péternek hívják biztosan sokan találkoztatok már péterrel vagy a nevével vagy a hírével hogy a hallgatói visszajelzések alapján legyőzhetetlenül

Átirat · 2:01:40

a legjobb előadó a a vagy legjobb oktató a az egyetemen vagy a karon és még

Átirat · 2:01:45

ráadásul szerény is úgyhogy ez tényleg legyűzhetetlenséghhez vezet a mondja még

Átirat · 2:01:50

ezt tovább k jó úgyhogy péter a mesterséges

Témák

MI-támogatott

Összefoglaló

MI-támogatott

Yang-Zijian Győző a HUN-REN Nyelvtudományi Kutatóközpont PULI magyar nyelvi modelljeinek fejlesztési tapasztalatait mutatja be. Ismerteti az alapmodellek tanítását, a magyar nyelvű korpuszok összeállításának és tisztításának nehézségeit, valamint a többnyelvű előtanítás lehetőségeit. Részletesen beszél a finomhangoláshoz szükséges magyar instrukciós adatok előállításáról, a gépi fordítás felhasználásáról, a modellek értékelésének problémáiról és a kulturális, illetve nyelvi tudás szerepéről. Az előadás végén kitér a modellek nyilvános elérhetőségére és licencelési kérdéseire is.

Videó navigáció

Fejezetek

MI-támogatott