Umeå universitets logga

umu.sePublikationer
Ändra sökning
RefereraExporteraLänk till posten
Permanent länk

Direktlänk
Referera
Referensformat
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Annat format
Fler format
Språk
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Annat språk
Fler språk
Utmatningsformat
  • html
  • text
  • asciidoc
  • rtf
Massively parallel evasion attacks and the pitfalls of adversarial retraining
Umeå universitet, Teknisk-naturvetenskapliga fakulteten, Institutionen för datavetenskap.
Umeå universitet, Teknisk-naturvetenskapliga fakulteten, Institutionen för datavetenskap.ORCID-id: 0000-0001-7119-7646
Umeå universitet, Teknisk-naturvetenskapliga fakulteten, Institutionen för datavetenskap.ORCID-id: 0000-0002-2633-6798
2024 (Engelska)Ingår i: EAI Endorsed Transactions on Internet of Things, E-ISSN 2414-1399, Vol. 10Artikel i tidskrift (Refereegranskat) Published
Abstract [en]

Even with widespread adoption of automated anomaly detection in safety-critical areas, both classical and advanced machine learning models are susceptible to first-order evasion attacks that fool models at run-time (e.g. an automated firewall or an anti-virus application). Kernelized support vector machines (KSVMs) are an especially useful model because they combine a complex geometry with low run-time requirements (e.g. when compared to neural networks), acting as a run-time lower bound when compared to contemporary models (e.g. deep neural networks), to provide a cost-efficient way to measure model and attack run-time costs. To properly measure and combat adversaries, we propose a massively parallel projected gradient descent (PGD) evasion attack framework. Through theoretical examinations and experiments carried out using linearly-separable Gaussian normal data, we present (i) a massively parallel naive attack, we show that adversarial retraining is unlikely to be an effective means to combat an attacker even on linearly separable datasets, (ii) a cost effective way of evaluating models defences and attacks, and an extensible code base for doing so, (iii) an inverse relationship between adversarial robustness and benign accuracy, (iv) the lack of a general relationship between attack time and efficacy, and (v) that adversarial retraining increases compute time exponentially while failing to reliably prevent highly-confident false classifications.

Ort, förlag, år, upplaga, sidor
Gent EAI , 2024. Vol. 10
Nyckelord [en]
Machine Learning, Support Vector Machines, Trustworthy AI, Anomaly Detection, AI for Cybersecurity
Nationell ämneskategori
Datorseende och robotik (autonoma system)
Identifikatorer
URN: urn:nbn:se:umu:diva-228214DOI: 10.4108/eetiot.6652Scopus ID: 2-s2.0-85200255571OAI: oai:DiVA.org:umu-228214DiVA, id: diva2:1886941
Forskningsfinansiär
Knut och Alice Wallenbergs Stiftelse, 2019.0352Tillgänglig från: 2024-08-05 Skapad: 2024-08-05 Senast uppdaterad: 2024-08-15Bibliografiskt granskad

Open Access i DiVA

fulltext(1314 kB)75 nedladdningar
Filinformation
Filnamn FULLTEXT01.pdfFilstorlek 1314 kBChecksumma SHA-512
d19e7f42d95385706a756d128b6ecf410717f0a4de6b514c1d78ae8f107f738b5534898b2b2b74ce962593365b1d14b5ddaf6cdd8e40d1b53fe536bbf9b9ae5c
Typ fulltextMimetyp application/pdf

Övriga länkar

Förlagets fulltextScopus

Person

Meyers, CharlesLöfstedt, TommyElmroth, Erik

Sök vidare i DiVA

Av författaren/redaktören
Meyers, CharlesLöfstedt, TommyElmroth, Erik
Av organisationen
Institutionen för datavetenskap
Datorseende och robotik (autonoma system)

Sök vidare utanför DiVA

GoogleGoogle Scholar
Totalt: 75 nedladdningar
Antalet nedladdningar är summan av nedladdningar för alla fulltexter. Det kan inkludera t.ex tidigare versioner som nu inte längre är tillgängliga.

doi
urn-nbn

Altmetricpoäng

doi
urn-nbn
Totalt: 231 träffar
RefereraExporteraLänk till posten
Permanent länk

Direktlänk
Referera
Referensformat
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • Annat format
Fler format
Språk
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Annat språk
Fler språk
Utmatningsformat
  • html
  • text
  • asciidoc
  • rtf