Επεξηγηματική βαθιά μάθηση σε εφαρμογές ταξινόμησης κειμένου

Abstract

Η παρούσα εργασία διερευνά την ενσωμάτωση των σύγχρονων τεχνικών του artificial intelligence (AI), συγκεκριμένα της βαθιάς μάθησης και των νευρωνικών δικτύων, με μοντέλα ταξινόμησης κειμένων αλλά και εξηγήσιμα μοντέλα. Το επίκεντρο αυτής της έρευνας είναι η ανάπτυξη ενός μοντέλου που όχι μόνο επιτυγχάνει υψηλή ακρίβεια σε εργασίες ταξινόμησης κειμένου αλλά και παρέχει ερμηνεύσιμες επεξηγήσεις για τις προβλέψεις του. Η προτεινόμενη προσέγγιση κάνει χρήση ενός προ-εκπαιδευμένου μοντέλου βαθιάς μάθησης, το BERT, το οποίο έχει ρυθμιστεί λεπτομερός (fine-tuned) σε ένα μεγάλο σύνολο δεδομένων ταξινόμησης κειμένου. Στη συνέχεια θα ενσωματώσουμε δύο επεξηγήσιμα μοντέλα ΤΝ, τo LIME και το SHAP, στο λεπτομερώς ρυθμισμένο μοντέλο BERT για να παρέχoυν επεξηγήσεις για τις προβλέψεις του. Ακόμη θα διεξαχθούν πειράματα εστιάζοντας στην σύγκριση των δύο αυτών μοντέλων επεξηγηματικότητας και στην εύρεση του καταλληλότερου. Τα αποτελέσματα καταδεικνύουν ότι οι προτεινόμενες προσεγγίσεις παρέχουν ερμηνεύσιμες εξηγήσεις για τις προβλέψεις τους, καθιστώντας τες πολλά υποσχόμενες λύσεις για προβλήματα ταξινόμησης κειμένου στον πραγματικό κόσμο.