Ένα εργαλείο που εγείρει βαθιά ηθικο-κοινωνικά ζητήματα
Απαραίτητοι οι ελεγκτικοί μηχανισμοί και η διατήρηση του ανθρώπινου ελέγχου
Μία από τις μεγαλύτερες προκλήσεις της σύγχρονης πραγματικότητας είναι η αξιοποίηση και η διαχείριση της τεχνητής νοημοσύνης, με τους αλγόριθμους και τα μοντέλα ΤΝ να έχουν εδραιωθεί πλέον σε πτυχές του κοινωνικού, επιχειρηματικού, εκπαιδευτικού και οικονομικού βίου. Η ανάγκη ωστόσο για ακριβή προσδιορισμό, κατανόηση και αντίληψη του τι σημαίνει ΤΝ, καθώς και των κοινωνικών της στόχων και των ηθικο-κοινωνικών αρχών που τη διέπουν μπαίνει αρχικά ως προτεραιότητα, προκειμένου να μπορέσουν να τεθούν οι βάσεις για την ορθολογική προσέγγιση ενός τεχνολογικού εργαλείου με πολυάριθμες, αλλά ταυτόχρονα αχαρτογράφητες δυνατότητες και λειτουργίες. Συχνά η συζήτηση γύρω από την ΤΝ είναι μονοδιάστατη, με διττούς διαχωρισμούς, στερούμενη τεχνογνωσίας και αντικειμενικότητας, ενώ επίσης συχνές είναι οι προσεγγίσεις με όρους γενικότητας, οι οποίες δεν οδηγούν στη διαμόρφωση ενός διαλόγου που να εξυπηρετεί την ανάλυση του συνόλου των πτυχών της ΤΝ. Σύμφωνα με όσα ανέφερε μεταξύ άλλων μιλώντας στα «Ρ.Ν.», η Σταυρούλα Τσινόρεμα, καθηγήτρια Σύγχρονης και Νεότερης Φιλοσοφίας και διευθύντρια του Εργαστηρίου Βιοηθικής του Πανεπιστημίου Κρήτης, είναι δύσκολο να αποδώσουμε ακριβείς ορισμούς τόσο για τη νοημοσύνη, όσο και για την τεχνητή νοημοσύνη. «Δεν έχουμε έναν ενιαίο ορισμό της νοημοσύνης. Διαφορετικοί επιστημονικοί κλάδοι διαμορφώνουν τον δικό τους ορισμό ανάλογα με την οπτική υπό την οποία προσεγγίζουν το φαινόμενο αυτό. Μιλάμε για συναισθηματική νοημοσύνη, κοινωνική νοημοσύνη, μαθηματική νοημοσύνη κ.ά. Υπό το πρίσμα ενός γενικού χαρακτηρισμού τώρα, μπορούμε να πούμε πως η ΤΝ αναφέρεται σε υπολογιστικές τεχνολογίες οι οποίες προσομοιάζουν διαδικασίες που σχετίζονται με την ανθρώπινη ευφυΐα, όπως συλλογισμός, μάθηση και προσαρμογή, αισθητηριακή πρόσληψη και αλληλεπίδραση», ανέφερε.
Δύο επίκαιρα και σαφώς αλληλένδετα ζητήματα που θέτει η ΤΝ είναι η επίδρασή της στην εργασία, είτε με όρους εδραίωσης αυτοματοποιημένων διεργασιών και αντικατάστασης του υφιστάμενου προσωπικού, είτε με την αλλαγή του τρόπου εργασίας, μέσα από την αξιοποίηση των δυνατοτήτων που παρέχει και οι ηθικοί προβληματισμοί, που ενδεχομένως εγείρουν αυτές οι νέες συνθήκες.
«Τόσο η αυτοματοποίηση όσο και η τεχνητή νοημοσύνη χρησιμοποιούν εξελιγμένα συστήματα για τη βελτίωση της αποτελεσματικότητας της ροής εργασιών, την αύξηση της παραγωγικότητας στον χώρο εργασίας, τη μείωση της ανθρώπινη παρέμβασης. Η κλασική αυτοματοποίηση βάσει κανόνων όμως ακολουθεί προκαθορισμένους κανόνες και καθορισμένα βήματα για την εκτέλεση εργασιών, ενώ η «ευφυής» αυτοματοποίηση, που ενσωματώνει τη μηχανική μάθηση και την τεχνητή νοημοσύνη, μπορεί να προβαίνει ανεξάρτητα στη λήψη αποφάσεων, στην ανάληψη δράσης και στην προσαρμογή σε μεταβαλλόμενες συνθήκες», σημείωσε η κ. Τσινόρεμα, ενώ στη συνέχεια συμπλήρωσε ότι η ΤΝ πρόκειται για ένα βαθιά ηθικό-κοινωνικό και πολιτικό ζήτημα, ως μια τεχνολογία που συνδέεται με κοινωνικές και πολιτικές δομές και δημιουργεί ένα πλέγμα ηθικών προβλημάτων. «Για παράδειγμα, εάν ένας αυτοματοποιημένος αλγόριθμος απορρίψει την ιατρική κάλυψη της οικογένειας κάποιου χωρίς προειδοποίηση, επειδή αυτός δεν τσεκάρισε σωστά ένα κουτάκι σε ένα ψηφιακό έντυπο, προκύπτουν ηθικά ερωτήματα σχετικά με την ανθρώπινη απόφαση να σχεδιαστεί και να εφαρμοστεί ένας αυτοματοποιημένος αλγόριθμος με τη δύναμη να αφαιρεί την ιατρική κάλυψη μιας οικογένειας χωρίς προειδοποίηση», ανέφερε, τονίζοντας επίσης ότι «Όλο και περισσότερο θα καλούμαστε να πάρουμε σημαντικές αποφάσεις σε σχέση με την ασφάλεια, την προστασία των δικαιωμάτων και των ελευθεριών των πολιτών, την αποτροπή κινδύνων παραβίασης της ιδιωτικής τους ζωής, απειλές γενικευμένης επιτήρησης του πληθυσμού, ιδίως από αυταρχικά καθεστώτα».
Στο ίδιο μήκος κύματος, μιλώντας εκ νέου για ηθικούς προβληματισμούς, ιδιαίτερη σημασία έχει η σχέση της ΤΝ με αρχές όπως η αυτονομία και δικαιοσύνη. Σύμφωνα με την κ. Τσινόρεμα, η ανθρώπινη επίβλεψη πρέπει να διασφαλίζεται σε όλα τα στάδια σχεδιασμού, ανάπτυξης και λειτουργίας της ΤΝ, όπως ανέφερε μεταξύ άλλων, καθώς και το ότι «οι χρήστες θα πρέπει να μπορούν να διατηρούν τη δύναμη να αποφασίζουν αυτόνομα ποιες επιλογές θα κάνουν σε σχέση με τα εργαλεία της ΤΝ, και να μην γίνονται θύματα άμεσης ή έμμεσης πίεσης ή εξαπάτησης, ή άλλης μορφής χειραγώγησης. Συνολικά, η ΤΝ θα πρέπει να αναπτύσσεται με τρόπους που προάγουν την ανθρώπινη αυτονομία και τα θεμελιώδη δικαιώματα, αμβλύνουν ανισότητες, ενδυναμώνουν την κοινωνική ευημερία και αυξάνουν τα οφέλη, που πρέπει να κατανέμονται με δικαιοσύνη και ισοτιμία». Παράλληλα, ηθικά ερωτήματα εγείρονται επίσης αναφορικά με τη διαχείριση των δεδομένων από τους αλγορίθμους ΤΝ και τη συσσώρευση αυτής της τεράστιου όγκου πληροφορίας, με την κ. Τσινόρεμα να επισημαίνει ότι τα ηθικά θέματα σχετίζονται με τη συλλογή, την επεξεργασία και τον έλεγχο των προσωπικών δεδομένων των χρηστών. «Τα «νοήμονα» συστήματα δεν πρέπει να χρησιμοποιούνται με τρόπους που εισβάλλουν αθέμιτα ή παρεμποδίζουν την άσκηση του δικαιώματος στην ιδιωτική ζωή, το οποίο συμπεριλαμβάνει το δικαίωμα να είναι κανείς ελεύθερος από τεχνολογίες που επηρεάζουν την προσωπική του ανάπτυξη, ή το δικαίωμα να είναι ελεύθερος από αυτοματοποιημένη ανάλυση των προσωπικών δεδομένων του, εάν το επιθυμεί. Απαιτείται μια δυναμική προσέγγιση για τη διακυβέρνηση της ΤΝ, με εγγυήσεις εκ του σχεδιασμού, και με παράλληλη άσκηση διαρκούς εποπτείας και ελέγχου. Απαιτείται όμως επίσης αλλαγή στα πρότυπα συμπεριφοράς μας, στους τρόπους που αξιοποιούμε τις τεχνολογίες της ΤΝ, στο διαδίκτυο, στην επικοινωνία, στον ατομικό και συλλογικό βίο. Ας έχουμε κατά νου ότι το νόμισμα που πληρώνουμε για την ελεύθερη πρόσβαση στις διάφορες πλατφόρμες του διαδικτύου είναι τα προσωπικά μας δεδομένα», εξήγησε.
Απαραίτητη κρίνεται επίσης η ανάλυση της έννοιας της Γενικής ΤΝ, δηλαδή ενός εργαλείου που θα μπορεί να συνθέτει σκέψη και να παράγει συμπεριφορές, όπως ακριβώς το κάνει και ο άνθρωπος, χρησιμοποιώντας δηλαδή συνειδητή γνώση. Όπως τόνισε η κ. Τσινόρεμα, πρόκειται προς το παρόν για ένα υποθετικό σενάριο και ένα όραμα δημιουργίας μιας τεχνητής νόησης, με την πλήρη σημασία του όρου. «H Τεχνητή Γενική Νοημοσύνη (ΤΓΝ-AGI) εκλαμβάνεται ως ένα εξελιγμένο σύστημα ΤΝ που θα διαθέτει συνειδητή γνώση, αυτογνωσία και ετερογνωσία, επίγνωση του κόσμου γύρω του, που θα μπορεί να αναλαμβάνει οποιαδήποτε γνωστική δραστηριότητα με τρόπους που δεν θα περιορίζονται στον τρόπο εκπαίδευσής του. Όμως παρά την επίτευξη αξιοσημείωτων αποτελεσμάτων σε τομείς όπως η υπολογιστική όραση και η επεξεργασία φυσικής γλώσσας, τα σημερινά συστήματα ΤΝ περιορίζονται από την ποιότητα και ποσότητα των δεδομένων εκπαίδευσης, τους προκαθορισμένους αλγόριθμους και τους συγκεκριμένους στόχους βελτιστοποίησης. Το κρίσιμο ερώτημα είναι εάν τα συστήματα αυτά θα μπορέσουν ποτέ να παραγάγουν ενσυνείδητη συμπεριφορά, δηλ. όχι μόνο σχηματισμούς σημάτων που οδηγούν σε εμφανή αποτελέσματα, αλλά το είδος των σχηματισμών που συνεπάγονται συνειδητή γνώση και συνειδητές εμπειρίες», ανέφερε, ενώ τέλος εξέφρασε τις αμφιβολίες της για το κατά πόσο τα συστήματα ΤΝ και ο τρόπος που λειτουργούν σήμερα δείχνουν ότι έχουν τη δυνατότητα απόκτησης γνώσης, συνείδησης και αυτογνωσίας.
Ο ρόλος που μπορεί να διαδραματίσει η ΤΝ στη χάραξη πολιτικής και στον τρόπο με τον οποίο λαμβάνονται κρίσιμες αποφάσεις σε τοπικό, εθνικό και διεθνές επίπεδο μπορεί να είναι είτε απώτερος στόχος, είτε λόγος για να ενισχύσουμε ακόμα περισσότερο τις δικλείδες ασφαλείας γύρω από τη χρήση της ΤΝ, ώστε να εξασφαλιστεί η θετική αξιοποίησή της. «Η τεχνολογία μάς λέει πώς να επιτύχουμε έναν στόχο, αλλά δεν μπορεί να μας πει εάν πρέπει να επιδιώξουμε αυτόν τον στόχο, κατά πόσον δηλαδή ο στόχος είναι ορθός. Το τελευταίο αποτελεί έργο της ηθικής και κατ’ επέκταση της πολιτικής. Αναγνωρίζουμε ασφαλώς τον υποβοηθητικό ρόλο της ΤΝ σε μια σειρά λειτουργιών, π.χ. μέσω της αυτοματοποίησης επαναλαμβανόμενων εργασιών, όπως η διαχείριση ημερολογίων, ο προγραμματισμός ραντεβού και η αποστολή υπενθυμίσεων για τη βελτιστοποίηση της ροής των ασθενών, η καταχώρηση δεδομένων, απελευθερώνοντας έτσι το ανθρώπινο προσωπικό για πιο σύνθετες εργασίες. Ο ρόλος της όμως θα πρέπει να είναι υποβοηθητικός και δεν μπορεί να υποκαταστήσει την ανθρώπινη κρίση και τον ανθρώπινο έλεγχο», ανέφερε η κ. Τσινόρεμα τονίζοντας ότι μπορεί να υπάρξουν κίνδυνοι από την εναπόθεση σημαντικών κοινωνικών και ρυθμιστικών λειτουργιών στα συστήματα της ΤΝ, όπως η εκτίμηση της πιθανότητας υποτροπής εγκληματιών, η αποφυλάκιση κρατουμένων με εγγύηση, ή η πρόσληψη υπαλλήλων. «Η αποδυνάμωση του ανθρώπινου παράγοντα, όσον αφορά αποφάσεις καθοριστικές για τους ανθρώπους, και η δυνητική υποκατάσταση της λήψης απόφασης από αυτοματοποιημένες τεχνικές ή στατιστικές μεθοδολογίες αλγοριθμικών συστημάτων πρέπει να μας κάνουν ιδιαιτέρως επιφυλακτικούς, τουλάχιστον σε ορισμένα πεδία. Εγχειρήματα διαβάθμισης ή υπαγωγής της ζωής των πολιτών σε τέτοιου είδους «υποδείξεις» μπορεί να απειλήσουν τον πυρήνα της ηθικών μας σχέσεων ως ελεύθερων και ίσων προσώπων, και είναι ηθικά απαράδεκτα», ολοκλήρωσε.
