Ανίχνευση ρητορικής μίσους με χρήση του γλωσσικού μοντέλου BERT

Abstract

Ο τεράστιος όγκος πληροφοριών που παράγεται καθημερινά στο διαδίκτυο και η μαζική χρήση μέσων κοινωνικής δικτύωσης έχουν δημιουργήσει πρωτόγνωρα φαινόμενα ρητορικής μίσους. Η πρόσφατη ραγδαία εξέλιξη του τομέα της τεχνητής νοημοσύνης και ιδιαίτερα των αρχιτεκτονικών βαθιάς μάθησης όπως η Transformer, έχει βοηθήσει σημαντικά την διαδικασία αυτόματης ταξινόμησης κειμένων με βάση το περιεχόμενο τους. Στην έρευνα μας ξεκινάμε αναλύοντας τον τομέα της τεχνητής νοημοσύνης και της ταξινόμησης ρητορικής μίσους. Στην συνέχεια επικεντρωνόμαστε στην εξέταση συνόλων δεδομένων ρητορικής μίσους και προτείνουμε μια μεθοδολογία επιλογής αυτών με βάση την αντικειμενικότα. Στην πειραματική μας προσέγγιση, μετά την εκτενή επεξεργασία των δεδομένων, υλοποιούμε την αρχιτεκτονική Transformer B.E.R.T με σκοπό την δημιουργία ταξινομητή πολλαπλών ετικετών 6 κλάσεων στόχων. Τα αποτελέσματα μας παρουσιάζουν τις καλύτερες επιδόσεις στο συγκεκριμένο σύνολο δεδομένων και δίνουν κατευθύνσεις για μελλοντικές έρευνες.

The huge daily volume of information produced on the internet and the massive use of social media has created unprecedented phenomena of hate speech. The recent rapid development of the field of artificial intelligence and especially of deep learning architectures such as Transformer has significantly helped the process of automatic text classification based on their content. In our research, we start by analyzing the field of artificial intelligence and the classification of hate speech. We then focus on examining hate speech data sets and proposing a methodology for selecting them based on the objective. In our experimental approach, after extensive data processing, we created the Transformer B.E.R.T architecture with the aim of creating a multi-tag classifier of 6 target classes. Our results show the best performance in this data set and give directions for future research.