Μεροληψίες και μαύρα κουτιά της τεχνητής νοημοσύνης σε συνθήκες κοινωνίας της διακινδύνευσης: μια κοινωνιολογική προσέγγιση των αλγορίθμων στη δημόσια διακυβέρνηση

Abstract

Η παρούσα εργασία συνιστά μια κοινωνιολογική προσέγγιση των μεροληψιών και των μαύρων κουτιών των τεχνολογιών της τεχνητής νοημοσύνης στην κοινωνία, εμβαθύνοντας στην περίπτωση του μεροληπτικού μαύρου κουτιού του αλγορίθμου των ολλανδικών παροχών παιδικής μέριμνας . Συλλέγοντας και εξετάζοντας πηγές από τον χώρο των σπουδών της Επιστήμης και Τεχνολογίας, της Κοινωνιολογίας της Τεχνητής Νοημοσύνης, των Κοινωνιών του Μαύρου Κουτιού και των Κοινωνιών της Διακινδύνευσης, εξετάζει την δυναμική σχέση αλληλεπίδρασης της τεχνητής νοημοσύνης και των σύγχρονων (μετα)νεωτερικών κοινωνιών. Από την μελέτη των θέσεων των STS αναδεικνύεται η πορεία των δύο ξεχωριστών μέχρι τότε πεδίων της επιστήμης και της τεχνολογίας προς την κατανόησή τους ως ένα ενιαίο, αυτού της τεχνοεπιστήμης χάρη στην επιρροή του κοινωνικού κονστρουκτιβισμού. Έτσι οι τεχνολογίες τεχνητής νοημοσύνης συγκροτούνται κοινωνικά με αποτέλεσμα να μην είναι ουδέτερες λαμβάνοντας συχνά μεροληπτικές αποφάσεις κατά των αδύναμων και Υποεκπροσωπούμενων κοινωνικών ομάδων εξαιτίας της μετατροπής τους σε μαύρα κουτιά. Καθοριστική σημασία για την διάνοιξή τους έχουν οι κριτικές σπουδές αλγορίθμων οι οποίες αντιλαμβάνονται τις τεχνολογίες τεχνητής νοημοσύνης ως κοινωνικοτεχνικά συστήματα καθώς αυτά όχι μόνο επηρεάζονται αλλά και επηρεάζουν τις κοινωνίες στις οποίες χρησιμοποιούνται. Από την ανάλυση συμπεραίνεται ότι η αλόγιστη αξιοποίηση τέτοιων συστημάτων, όπως στην περίπτωση των ολλανδικών παροχών μέριμνας, αποτελεί μια σύγχρονη μορφή διακινδύνευσης που απειλεί τις σύγχρονες κοινωνίες με την αναπαραγωγή μεροληψιών και την άνιση κατανομή της εξουσίας.

This paper constitutes a sociological approach to the biases and black boxes of AI technologies in society, delving into the case of the biased black box of the Dutch childcare benefits algorithm. By collecting and examining sources from the fields of Science and Technology Studies, Sociology of AI, Black Box Societies and Risk Societies, it examines the dynamic interaction between AI and contemporary (post)modern societies. The study of the STS positions highlights the course of the two hitherto separate fields of science and technology towards their understanding as a unified one, that of technoscience thanks to the influence of social constructivism. Thus, AI technologies are socially constructed so that they are not neutral, often taking biased decisions against weak and underrepresented social groups because of their turn into black boxes. Critical studies of algorithms that understand AI technologies as socio-technical systems are crucial for their opening up, as they not only affect but also influence the societies in which they are used. The analysis concludes that the indiscriminate use of such systems, as in the case of Dutch care benefits, is a modern form of risk that threatens (meta)modern societies by reproducing biases and unequal distribution of power.