Κακόβουλη μηχανική μάθηση

Abstract

Τα συστήματα μηχανικής μάθησης καθώς προσφέρουν μια ιδιαίτερη ευελιξία, χρησιμοποιούνται σε πλήθος εφαρμογών τα τελευταία χρόνια. Και ενώ πολύ συχνά διάφορα μοντέλα μηχανικής μάθησης χρησιμοποιούνται για την αντιμετώπιση επιθέσεων, όπως παραδείγματος χάριν σε συστήματα ανίχνευσης εισβολών, ταυτόχρονα οι ίδιοι αλγόριθμοι μηχανικής μάθησης σε διάφορες μορφές τους μπορούν να αποτελέσουν οι ίδιοι στόχο επίθεσης από κάποιον κακόβουλο χρήστη. Τα προβλήματα που δημιουργούν αυτές οι επιθέσεις στην λειτουργία των συστημάτων μηχανικής μάθησης είναι ποικίλα. Μπορούν να προκαλέσουν απώλεια λειτουργικότητας ή λανθάνουσα λειτουργικότητα στις διάφορες εφαρμογές που στηρίζονται σε μοντέλα μηχανικής μάθησης με αποτέλεσμα ιδιαιτέρως σημαντικά κόστη τόσο στις επιχειρήσεις που τις παρέχουν όσο και στους χρήστες που τις χρησιμοποιούν. Επίσης ένα σημαντικό ζήτημα που προκύπτει από τέτοιου είδους επιθέσεις είναι αυτό της ιδιωτικότητας, καθώς η μηχανική μάθηση στηρίζεται σε πλήθος δεδομένων και στις περισσότερες των περιπτώσεων αυτά τα δεδομένα είναι προσωπικά δεδομένα χρηστών.

Στην παρούσα διπλωματική εργασία θα γίνει μελέτη και αναφορά στις διάφορες επιθέσεις απέναντι στην μηχανική μάθηση σήμερα αλλά και στις τεχνικές άμυνας απέναντι σε αυτές, με ιδιαίτερη έμφαση στις επιθέσεις διαφυγής και τις επιθέσεις δηλητηρίασης δεδομένων, ενώ ταυτόχρονα δίνονται και παραδείγματα από διάφορες επιθέσεις στον πραγματικό κόσμο. Επίσης, αναφορά θα γίνει και στο ιδιαιτέρως σημαντικό ζήτημα της ιδιωτικότητας που προκύπτει και σε διάφορες τεχνικές για την αποφυγή τέτοιων περιπτώσεων απώλειας ή αποκάλυψης προσωπικών δεδομένων.