Τεχνητή Νοημοσύνη και Ηθική

Τεχνητή Νοημοσύνη και Ηθική

Λήδα Αρνέλλου

Το Ινστιτούτο Πληροφορικής και Τηλεπικοινωνιών (ΙΠΤ) του ΕΚΕΦΕ “Δημόκριτος” διοργάνωσε, στις 3 Ιουλίου 2019, στο πλαίσιο του 54ου Θερινού Σχολείου του ΕΚΕΦΕ, στρογγυλό τραπέζι με τίτλο “Τεχνητή Νοημοσύνη και Ηθική” με τη συμμετοχή σημαντικών ομιλητών. Στη συζήτηση συμμετείχαν ο Αντώνης Αργυρός, καθηγητής Επιστήμης Υπολογιστών, του ομώνυμου τμήματος του Πανεπιστημίου Κρήτης και ερευνητής στο Ινστιτούτο Πληροφορικής του Ιδρύματος Τεχνολογίας Έρευνας στο Ηράκλειο Κρήτης, ο Θεόδωρος Σκαλτσάς, ομότιμος καθηγητής Φιλοσοφίας του Πανεπιστημίου του Εδιμβούργου και διευθυντής του project Αρχέλογος, ο Αλέξανδρος Νούσιας, νομικός σύμβουλος εξειδικευμένος σε ζητήματα τεχνολογίας, με εκτεταμένη εμπειρία σε θέματα Διαχείρισης Προσωπικών Δεδομένων, και ο Δρ. Γιώργος Γιαννακόπουλος, συνεργαζόμενος ερευνητής του Εργαστηρίου Τεχνολογίας Γνώσεων Λογισμικού (SKEL) του ΙΠΤ, συνιδρυτής και διευθυντής έρευνας της SciFY και μέλος του Δ.Σ. της Ελληνικής Εταιρείας Τεχνητής Νοημοσύνης (ΕΕΤΝ). Στα επιλεγμένα αποσπάσματα της συζήτησης που ακολουθούν αποτυπώνονται τα κυριότερα ζητήματα που έθεσαν οι προσκεκλημένοι ομιλητές.

Τεχνητή Νοημοσύνη και Ηθική: Τα θέματα που εγείρονται

Η συζήτηση γύρω από τα ηθικά ζητήματα που σχετίζονται με την Τεχνητή Νοημοσύνη (Τ.Ν.) είναι αρκετά σύνθετη. Όπως ανέφερε ο Α. Αργυρός, «η σχέση Τεχνητής Νοημοσύνης και Ηθικής είναι ένα εξαιρετικά περίπλοκο θέμα. Μιλάμε για ηθική και Τ.Ν. γιατί διαπιστώνουμε ότι η Τ.Ν. συνεπάγεται δύναμη και μπορεί να αλλάξει πάρα πολλές πτυχές της ανθρώπινης ζωής. Αισθανόμαστε τον φόβο του αγνώστου και ανησυχούμε για το πώς θα χρησιμοποιηθεί αυτή η δύναμη στο μέλλον». Ο Γ. Γιαννακόπουλος σημείωσε χαρακτηριστικά: «Το να αναπτύξει κανείς μια ηθική στάση απέναντι σε κάτι απαιτεί ενασχόληση, εμπειρία και στοχασμό. Σήμερα, η επικοινωνιακή έκρηξη που σχετίζεται με την Τ.Ν. φέρει μόνο ψήγματα αλήθειας και δεν βοηθά να γνωρίσουμε επαρκώς το νέο αυτό εργαλείο για να αποκτήσουμε μια ηθική στάση απέναντί του».

Προσεγγίζοντας το ζήτημα της Τ.Ν. από ηθική σκοπιά, γίνεται σαφές ότι θα πρέπει να αναλογιστεί κανείς τις συνέπειες σε βάθος χρόνου, λαμβάνοντας υπόψη τους μετασχηματισμούς που ενδεχομένως θα επιφέρει σε μια σειρά από έννοιες. Όπως υπογράμμισε ο Αλ. Νούσιας, «η Τ.Ν., αν και νήπιο στην αντίληψη, μεγαλώνει και κάποια στιγμή θα ενηλικιωθεί. Όσο θα ωριμάζει, έννοιες όπως η ιδιωτικότητα, η αυτενέργεια, ο τρόπος λήψης αποφάσεων θα ανασχεδιάζονται, ενώ έννοιες όπως η ισότητα ευκαιριών, τα fake news, οι διακρίσεις, ο στιγματισμός τα κριτήρια στατιστικής δικαιοσύνης θα ριζοσπαστικοποιούνται».

Η συζήτηση ανέδειξε ποικίλες προεκτάσεις, που αγγίζουν ζητήματα όπως η αυτονομία του ανθρώπου και η διαρκής προσπάθειά μας για το ευ ζην. Ο Θ. Σκαλτσάς σημείωσε: «Έχω εντοπίσει το ‘Παράδοξο της Τεχνητής Νοημοσύνης’ (A.I. Paradox), όπου, όσο πιο έξυπνη γίνεται η Τ.Ν., τόσο πιο επικίνδυνη γίνεται για τον άνθρωπο. Τελικά, όλοι μας θα εμπιστευόμαστε την Τ.Ν. περισσότερο απ’ ό,τι εμπιστευόμαστε τον εαυτό μας ή άλλους, παραχωρώντας την αυτονομία μας στη μηχανή. Χωρίς αυτονομία, η έννοια του ευ ζην αποσυντίθεται». Όπως συμπλήρωσε ο Γ. Γιαννακόπουλος, «η Τ.Ν. μας προκαλεί να αναθεωρήσουμε το ανθρώπινο και τον άνθρωπο, αναρωτιέται για το ψηφιακό του αποτύπωμα και τις σχέσεις με ευφυείς μηχανές, υποδεικνύει ηθικά διλήμματα στη χρήση της τεχνολογίας, αλλά και ευθύνες που δεν είμαστε βέβαιοι αν πρέπει να ανατεθούν στον άνθρωπο ή/και στο δημιούργημά του».

Τεχνητή Νοημοσύνη: Εμπιστοσύνη και έλεγχος

Στο σημείο αυτό θα πρέπει να ληφθεί υπόψη ότι υπάρχουν πολλά είδη Τ.Ν., με τη λεγόμενη «Γενική

Τεχνητή Νοημοσύνη» να φαίνεται ακόμα μακριά. Ο Α. Αργυρός σημείωσε σχετικά: «Σήμερα απέχουμε πάρα πολύ από την έννοια της Γενικής Τεχνητής Νοημοσύνης και από τη δημιουργία μηχανών με πρωτοβουλία ή αυτονομία. Ωστόσο, με δεδομένο ότι ο άνθρωπος θα ψάχνει συνεχώς να κάνει το επόμενο τεχνολογικό βήμα, είναι σημαντικό να αναλογιζόμαστε τους τρόπους χρήσης της τεχνολογίας και τις ενδεχόμενες συνέπειές της».

Η Ευρωπαϊκή Ένωση έχει θέσει ως στόχο την ανάπτυξη και τη χρήση μιας ανθρωποκεντρικής Τ.Ν., που θα σέβεται τα θεμελιώδη δικαιώματα και τους κανόνες δεοντολογίας. Ο Α. Αργυρός ανέφερε: «Το ότι η Ε.Ε. ασχολείται με το θέμα θέτοντας την ηθική ως προτεραιότητα είναι δηλωτικό των προθέσεων σε ευρωπαϊκό επίπεδο, πράγμα που θεωρώ εξαιρετικά σημαντικό και ελπιδοφόρο». Στο πλαίσιο αυτό, θεωρείται κομβικό το ζήτημα της εμπιστοσύνης, το οποίο συνδέεται με τον τρόπο λειτουργίας και ελέγχου των συστημάτων Τ.Ν. Ειδικά για το ζήτημα του ελέγχου, ο Θ. Σκαλτσάς εξέφρασε επιφυλάξεις: «Οι μεγάλες εταιρείες τεχνολογίας βρίσκουν πάντα καινοτόμες διόδους για να ξεφεύγουν από τον έλεγχο: ‘Innovation eats Regulation for breakfast’. Άρα, η λύση δεν είναι ο έλεγχος».

Η ηθική ως προτεραιότητα και ο ρόλος εν γένει των Ανθρωπιστικών Επιστημών

Στο τελευταίο μέρος της συζήτησης αναζητήθηκαν οι τρόποι προσέγγισης του ζητήματος δεδομένης της πολυπλοκότητας που προαναφέρθηκε. Ο Α. Αργυρός υπογράμμισε τον ρόλο άλλων πεδίων στον διάλογο: «Στη διαδικασία αυτή οι Ανθρωπιστικές Επιστήμες έχουν σημαντικό ρόλο να παίξουν. Επίσης, καθοριστικός είναι ο ρόλος της εκπαίδευσης, μάλιστα από πολύ μικρές ηλικίες, και σ’ αυτή δίνεται μεγάλη έμφαση στην Ε.Ε. και σε άλλες τεχνολογικά προηγμένες χώρες».

Έγινε, επίσης, σαφές ότι η συζήτηση μπορεί να αναδείξει την ανάγκη για βαθύτερες τομές, αναδεικνύοντας τον ρόλο των Ανθρωπιστικών Επιστημών, όπως σχολίασε ο Γ. Γιαννακόπουλος: «Θεωρώ ότι χρειάζεται εκ βάθρων, συστηματική συζήτηση για τον άνθρωπο, την ψηφιακή του υπόσταση και τη σχέση του με την Τ.Ν. ώστε να σκιαγραφήσουμε τα βασικά θέματα που τίθενται για να ενημερώσουμε εγκαίρως και τη νομοθεσία. Μαζί με ένα ευέλικτο πλαίσιο δράσεων που θα μπορεί να προσαρμοστεί στις ανάγκες που θα προκύπτουν, και όχι μια παγιωμένη δομή εξουσίας, ευελπιστώ ότι θα μπορέσουμε να καταπολεμήσουμε την τεχνοκρατική και επιστημονικολάγνα αντίληψη της Τ.Ν. Να την μπολιάσουμε με μια οπτική όπου και οι Ανθρωπιστικές Επιστήμες, και η τέχνη, και η προσωπική εμπειρία θα κληθούν να παιδεύσουν τον άνθρωπο, για να ενεργοποιηθεί το ηθικό του αισθητήριο, βήμα - βήμα».

Την ανάγκη για ουσιαστική συζήτηση σε κάθε στάδιο ανάπτυξης της Τ.Ν. αλλά και εκ των προτέρων τόνισε και ο Αλ. Νούσιας: «Σ’ αυτήν την κοσμογονία πρέπει να αποφασίσουμε εάν η Τ.Ν. είναι μέσο ή αυτοσκοπός, θρησκεία, φιλοσοφία ή βιβλίο συνταγών. Αυτό απαιτεί ενημερωμένους νομοθέτες, επικαιροποιημένες εταιρικές δομές, εταιρικούς στόχους και μοντέλα, συνειδητοποιημένους επιστήμονες. Δεν έχει σημασία μόνο τι μπορεί να σχεδιαστεί / κατασκευαστεί. Θα πρέπει να αναρωτηθούμε εάν ο όποιος σχεδιασμός είναι καλό να υλοποιηθεί ευθύς εξαρχής». Αν η απάντηση είναι καταφατική, ο Αλ. Νούσιας συμπληρώνει: «Θα πρέπει να συμφωνήσουμε στον τρόπο υλοποίησης, στις αρχές και τις αξίες που διέπουν το σχέδιο αυτό. Θα πρέπει να υπάρχει επαρκής τεκμηρίωση και εκτίμηση κινδύνου. Δεν πρόκειται για άλλο ένα checkbox, αλλά για μια διαδικασία βαθιάς τεκμηρίωσης. Στο σημείο αυτό μπαίνει η φιλοσοφία της πληροφορίας και η ηθική των δεδομένων, η Ανθρωπολογία και ο συμπεριφορισμός, οι τέχνες και η αισθητική».

Σύμφωνα με τον Θ. Σκαλτσά, όσα γνωρίζουμε δεν επαρκούν και για τον λόγο αυτό είναι ανάγκη να θέσουμε το ζήτημα υπό νέες βάσεις, δημιουργώντας μια νέα μεθοδολογία. Όπως λέει χαρακτηριστικά: «Το πρόβλημα δεν λύνεται με τις υπάρχουσες γνώσεις του ανθρώπου. Θα πρέπει να φέρουμε επανάσταση στην έννοια του ευ ζην, ώστε να είναι κατάλληλη για έναν A.I. κόσμο. Χρειάζεται να σχεδιάσουμε καινοτόμες αξίες, τις οποίες δεν έχουμε συλλάβει ακόμα, και τις οποίες δεν μας διδάσκουν πουθενά πώς να τις σχεδιάσουμε. Τότε πώς; Θα συνδυάσουμε τη θεωρία του ευ ζην του Αριστοτέλη με μεθόδους καινοτόμου σκέψης και θα διασπείρουμε τη νέα μεθοδολογία παντού".

* Η συζήτηση «Τεχνητή Νοημοσύνη και Ηθική» μεταδόθηκε ζωντανά από τον Δίαυλο και είναι διαθέσιμη στον σύνδεσμο: https://bit.ly/2G7Mt5y

Λήδα Αρνέλλου

Αναδημοσίευση από: http://www.avgi.gr/article/10965/10087530/technete-noemosyne-kai-ethike