prikaz prve stranice dokumenta Arhitekture dubokih neuronskih mreža u problemu obrade prirodnog jezika
  Preuzmi
PDF 1012.89 KB
diplomski rad
Arhitekture dubokih neuronskih mreža u problemu obrade prirodnog jezika
2021. urn:nbn:hr:217:848781
Štefanić, Tin
Sveučilište u Zagrebu
Prirodoslovno-matematički fakultet
Matematički odsjek

Citirajte ovaj rad

Štefanić, T. (2021). Arhitekture dubokih neuronskih mreža u problemu obrade prirodnog jezika (Diplomski rad). Zagreb: Sveučilište u Zagrebu, Prirodoslovno-matematički fakultet. Preuzeto s https://urn.nsk.hr/urn:nbn:hr:217:848781

Štefanić, Tin. "Arhitekture dubokih neuronskih mreža u problemu obrade prirodnog jezika." Diplomski rad, Sveučilište u Zagrebu, Prirodoslovno-matematički fakultet, 2021. https://urn.nsk.hr/urn:nbn:hr:217:848781

Štefanić, Tin. "Arhitekture dubokih neuronskih mreža u problemu obrade prirodnog jezika." Diplomski rad, Sveučilište u Zagrebu, Prirodoslovno-matematički fakultet, 2021. https://urn.nsk.hr/urn:nbn:hr:217:848781

Štefanić, T. (2021). 'Arhitekture dubokih neuronskih mreža u problemu obrade prirodnog jezika', Diplomski rad, Sveučilište u Zagrebu, Prirodoslovno-matematički fakultet, citirano: 05.05.2024., https://urn.nsk.hr/urn:nbn:hr:217:848781

Štefanić T. Arhitekture dubokih neuronskih mreža u problemu obrade prirodnog jezika [Diplomski rad]. Zagreb: Sveučilište u Zagrebu, Prirodoslovno-matematički fakultet; 2021 [pristupljeno 05.05.2024.] Dostupno na: https://urn.nsk.hr/urn:nbn:hr:217:848781

T. Štefanić, "Arhitekture dubokih neuronskih mreža u problemu obrade prirodnog jezika", Diplomski rad, Sveučilište u Zagrebu, Prirodoslovno-matematički fakultet, Zagreb, 2021. Dostupno na: https://urn.nsk.hr/urn:nbn:hr:217:848781

Za citiranje koristite ovu mrežnu adresu: https://urn.nsk.hr/urn:nbn:hr:217:848781
Prijavite se u repozitorij kako biste mogli spremiti objekt u svoju listu.
Podaci o radu
NaslovArhitekture dubokih neuronskih mreža u problemu obrade prirodnog jezika
Naslov (engleski)Architectures of deep neural networks in the problem of natural language processing
AutorTin Štefanić
MentorLuka Grubišić (mentor)
Član povjerenstvaLuka Grubišić (predsjednik povjerenstva)
Član povjerenstvaZvonimir Bujanović (član povjerenstva)
Član povjerenstvaAndrej Dujella (član povjerenstva)
Član povjerenstvaGoran Muić (član povjerenstva)
Ustanova koja je dodijelila
akademski / stručni stupanj		Sveučilište u Zagrebu
Prirodoslovno-matematički fakultet
(Matematički odsjek)
Zagreb
Datum i država obrane2021-09-22, Hrvatska
Znanstveno / umjetničko
područje, polje i grana		PRIRODNE ZNANOSTI
Matematika
Sažetak
U ovom diplomskom radu obrađuju se izabrane arhitekture dubokih neuronskih mreža korištene u problemu obrade prirodnog jezika. U prvom poglavlju cilj je obraditi klasične arhitekture, rekurzivne neuronske mreže i LSTM, te njihove prednosti i mane. Zatim u idućem poglavlju se obrađuje modernija Transformer arhitektura, arhitektura koja sadrži prednosti klasičnih arhitektura, ali nema njihove mane. U trećem poglavlju su obrađene napredne pred-trenirane Transformer arhitekture, BERT i njegova nadogradnja ALBERT. Zatim u zadnjem poglavlju te arhitekture su primjenjene na problem odgovaranja na pitanja, problem na kojem su izražene mane klasičnih arhitektura.
Sažetak (engleski)
This thesis deals with selected architectures of deep neural networks used in the problem of natural language processing. In the first chapter, the goal is to deal with classical architectures, recurrent neural networks and LSTM, and their advantages and disadvantages. Then, in the next chapter, we discuss the modern Transformer architecture, an architecture that possesses the advantages of classical architectures, but doesn’t share their disadvantages (e.g. it is easier to use parallel algorithms and it allows for transfer learning). The third chapter deals with the advanced pre-trained Transformer architecture, BERT and its upgrade ALBERT. Then, in the last chapter, these architectures are applied to a question answering problem, a problem on which the flaws of classical architectures are expressed.
Ključne riječi
Ključne riječi (engleski)
Jezikhrvatski
URN:NBNurn:nbn:hr:217:848781
Studijski programNaziv: Računarstvo i matematika
Vrsta studija: sveučilišni
Stupanj studija: diplomski
Akademski / stručni naziv: magistar/magistra računarstva i matematike (mag. inf. et math.)
Vrsta resursaTekst
Način izrade datotekeIzvorno digitalna
Prava pristupaOtvoreni pristup
Uvjeti korištenjaIkona licence Zaštićeno autorskim pravom.
Datum i vrijeme pohrane2021-11-08 12:54:39