prikaz prve stranice dokumenta Ispitivanje sigurnosti dubokih neuronskih mreža za analizu slika
Rad nije dostupan
diplomski rad
Ispitivanje sigurnosti dubokih neuronskih mreža za analizu slika
2023. urn:nbn:hr:168:649893
Smoljan, Dorian
Sveučilište u Zagrebu
Fakultet elektrotehnike i računarstva

Citirajte ovaj rad

Smoljan, D. (2023). Ispitivanje sigurnosti dubokih neuronskih mreža za analizu slika (Diplomski rad). Zagreb: Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva. Preuzeto s https://urn.nsk.hr/urn:nbn:hr:168:649893

Smoljan, Dorian. "Ispitivanje sigurnosti dubokih neuronskih mreža za analizu slika." Diplomski rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, 2023. https://urn.nsk.hr/urn:nbn:hr:168:649893

Smoljan, Dorian. "Ispitivanje sigurnosti dubokih neuronskih mreža za analizu slika." Diplomski rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, 2023. https://urn.nsk.hr/urn:nbn:hr:168:649893

Smoljan, D. (2023). 'Ispitivanje sigurnosti dubokih neuronskih mreža za analizu slika', Diplomski rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, citirano: 11.05.2024., https://urn.nsk.hr/urn:nbn:hr:168:649893

Smoljan D. Ispitivanje sigurnosti dubokih neuronskih mreža za analizu slika [Diplomski rad]. Zagreb: Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva; 2023 [pristupljeno 11.05.2024.] Dostupno na: https://urn.nsk.hr/urn:nbn:hr:168:649893

D. Smoljan, "Ispitivanje sigurnosti dubokih neuronskih mreža za analizu slika", Diplomski rad, Sveučilište u Zagrebu, Fakultet elektrotehnike i računarstva, Zagreb, 2023. Dostupno na: https://urn.nsk.hr/urn:nbn:hr:168:649893

Za citiranje koristite ovu mrežnu adresu: https://urn.nsk.hr/urn:nbn:hr:168:649893
Prijavite se u repozitorij kako biste mogli spremiti objekt u svoju listu.
Podaci o radu
NaslovIspitivanje sigurnosti dubokih neuronskih mreža za analizu slika
Naslov (engleski)Investigation of Security of Deep Neural Networks for Image Analysis
AutorDorian Smoljan
MentorMarko Subašić (mentor)
Član povjerenstvaMarko Subašić (predsjednik povjerenstva)
Član povjerenstvaTomislav Petković (član povjerenstva)
Član povjerenstvaKrešimir Križanović (član povjerenstva)
Ustanova koja je dodijelila
akademski / stručni stupanj		Sveučilište u Zagrebu
Fakultet elektrotehnike i računarstva
Zagreb
Datum i država obrane2023-07-13, Hrvatska
Sažetak
Cilj ovog rada je bio istražiti potencijalne napade i obrane na neuronske mreže za analizu slika s naglaskom na ugrađivanja stražnjih vrata u mrežu (eng. backdoor) korištenjem trovanja podataka. U tu svrhu je predstavljen niz metoda napada, te odgovarajućih obrana, te su uspoređene njihove mogućnosti i ograničenja. Dvije odabrane metode napada, statičko uzorkovanje i blending su implementirane i testirane na više različitih skupova podataka za klasifikaciju slika. Kao obrana od implementiranih metoda napada, testirane su dvije metode obrane, STRIP i Neural Cleanse. Uspoređena je učinkovitost napada te obrane, te je zaključeno da je STRIP učinkovit za većinu ali ne sve metode napada, dok se Neural Cleanse pokazala kao učinkovita metoda za sve razmatrane vrste napada. Konačno, pokazano je da se model može djelomično oporaviti koristeći rekonstruirane okidače dobivene metodom Neural Cleanse i ponovnim treniranjem.
Sažetak (engleski)
This work aimed to explore potential attacks on neural networks for image analysis, focusing on backdoor attacks using data poisoning and suitable defense methods. A wide array of attack and defense methods was presented, and their capabilities and limitations were compared. Two selected attack methods, static sampling and blending were implemented and tested on multiple image classification datasets. Two defense methods against those attacks, STRIP and Neural Cleanse were evaluated. The efficiency of attacks and defense was compared, and it was concluded that STRIP is effective for most, but not all attack methods, and Neural Cleanse showed good performance against all attacks. Finally, it was shown that the backdoored models can be partially restored using retraining with triggers reconstructed by Neural Cleanse.
Ključne riječi
Ključne riječi (engleski)
Jezikengleski
URN:NBNurn:nbn:hr:168:649893
Studijski programNaziv: Računarstvo
Vrsta studija: sveučilišni
Stupanj studija: diplomski
Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
Vrsta resursaTekst
Način izrade datotekeIzvorno digitalna
Prava pristupaZatvoreni pristup
Uvjeti korištenjaIkona licence Zaštićeno autorskim pravom.
Javna napomena
Datum i vrijeme pohrane2023-10-11 10:28:37