Artificial intelligence: dangers to privacy and democracy

Abstract

Με την συνεχώς διευρυνόμενη χρήση του Διαδικτύου, ένα αυξανόμενο ποσό κοινωνικών και προσωπικών διαδράσεων λαμβάνει χώρα σε δημόσια, Διαδικτυακά φόρα όπως οι σελίδες forum και οι σελίδες κοινωνικής δικτύωσης. Αυτό είχε ως αποτέλεσμα την μεταφορά πολλής μέχρι πρότινος προσωπικής κοινωνικοποίησης στην δημόσια σφαίρα. Πολλές πληροφορίες που θεωρούσαμε ιδιωτικές και προσωπικές πλέον γίνονται εύκολα και δημόσια προσβάσιμες, εάν όχι στους χρήστες τότε στους διαχειριστές κοινωνικών δικτύων οι οποίοι αρκετά συχνά απλά χρεώνουν την πρόσβαση σε διαφημιστικές εταιρείες και άλλες οντότητες. Το θέμα υπό μελέτη είναι πως μπορεί να γίνει εκμετάλλευση τέτοιων τεχνικών μέσω συστημάτων Τεχνητής Νοημοσύνης και τις επιδράσεις που αυτή η χρήση Τεχνητής Νοημοσύνης έχει για την δημοκρατική κοινωνία. Για να κάνουμε σωστό έλεγχο πάνω σε αυτά τα ζητούμενα, πρέπει να μελετήσουμε το πως ορίζεται μια «δημοκρατική κοινωνία», τις κοινωνικές νόρμες και τους πολιτικούς θεσμούς που συμπεριλαμβάνονται σε αυτή. Χρειάζεται να μελετήσουμε την ιδέα της ιδιωτικότητας και το πως εξελίχθηκε μαζί με τα μέσα τηλεπικοινωνιών, και το πόσο συνδεδεμένη είναι με την δημοκρατία όπως την εννοούμε. Για να αποφασίσουμε αν η Τεχνητή Νοημοσύνη αποτελεί απειλή για την δημοκρατία, πρέπει να μπορούμε να περιγράψουμε συνθήκες υπό τις οποίες η δημοκρατία έχει θιχτεί. Τεχνολογικά, πρέπει να απαντήσουμε στο πως η Τεχνητή Νοημοσύνη και τα Μεγάλα Δεδομένα αγγίζουν τα προσωπικά δεδομένα και τον δημόσιο βίο, και το μέτρο στο οποίο αυτό επηρεάζει την δημοκρατία και την προσωπική ιδιωτικότητα. Προς αυτόν το σκοπό μας ενδιαφέρουν οι δυνατότητες που κατέχει η τεχνολογία, δηλαδή πόσα και ποιά δεδομένα συλλέγονται, πως χρησιμοποιούνται από συστήματα Τεχνητής Νοημοσύνης, πως και αν μπορεί να αποδοθεί λογοδοσία σε τέτοια συστήματα, και τους τρόπους με τους οποίους μπορούν να τεθούν και να τηρηθούν πρότυπα δεοντολογίας. Για να βασιστεί το θεωρητικό πλαίσιο της άνω ανάλυσης σε εμπειρικά δεδομένα, θα μελετήσουμε συγκεκριμένα παραδείγματα πολιτικών δεδομένων μεγάλων κοινωνικών δικτύων, παραδείγματα χρήσης Τεχνητής Νοημοσύνης για εκμετάλλευση αυτών των δεδομένων όπως το σκάνδαλο Facebook-Cambridge Analytica, και προσπάθειες να κατασκευαστούν κανονιστικά πλαίσια που εγγυώνται την δεοντολογική εφαρμογή σχετικών τεχνολογιών όπως ο Γενικός Κανονισμός για την Προστασία Δεδομένων της Ευρωπαϊκής Ένωσης και προτεινόμενο δεοντολογικό πλαίσιο για αξιόπιστη Τεχνητή Νοημοσύνη.

With the ever-widening use of the Internet, an increasing amount of social and personal interactions between people is taking place on public, online fora, such as forums and social media. This has resulted in the movement of much of once personal socialising into the public sphere. Much of the information that was once regarded as private or personal has now become easily and publicly accessible, if not to the end-user then to the operators of social networks who often simply charge a price for access to advertising companies and other entities. The subject under study is how such practices can be abused through Artificial Intelligence systems and the repercussions that Artificial Intelligence has for a democratic society. In order to properly evaluate these concerns, we will need to examine what constitutes a “democratic society”, the social norms and political institutions that entails. We need to examine the concept of privacy, the way it has evolved as telecommunications systems have, and how closely tied it is to our understanding of democracy. If we are to ascertain whether Artificial Intelligence poses a danger to democracy, it is necessary to be able to describe conditions in which democracy has been compromised. Technologically, we need to address the ways in which Artificial Intelligence and Big Data intersect with personal data and public life, and the extent to which that has an effect on democracy and individual privacy. Of interest in this is the capabilities of the technology fundamentally, which is to say, how much and which data is collected, how Artificial Intelligence systems can make use of it, how accountability can be attributed in those systems, if it can at all, and ways in which ethical standards can be set and enforced in a viable way. To ground the theoretical framework that the above analysis will establish to empirical evidence, we will look at specific examples of major social networks’ data collection and use policies, examples of Artificial Intelligence being used to exploit such data, such as the Facebook-Cambridge Analytica scandal, and efforts to establish regulatory frameworks that ensure an ethical application of these technologies, such as the European Union’s General Data Protection Regulation and ethical guidelines for trustworthy Artificial Intelligence.