Ηθικά διλήμματα και τεχνολογία

Ηθικά διλήμματα και τεχνολογία

Σταμάτης Αλέξης 

Το ερώτημα αν οι μηχανές μπορούν να σκέφτονται έχει την ίδια σημασία με το ερώτημα αν τα υποβρύχια μπορούν να κολυμπούν.   Edsger W. Dijkstra, ο Ολλανδός προγραμματιστής

Μπορούν τα συστήματα τεχνητής νοημοσύνης να έχουν σκέψη; Εάν είχατε τη δυνατότητα να σώσετε κάποιον σε ένα τροχαίο δυστύχημα ποιος θα ήταν αυτός, ο οδηγός του αυτοκινήτου ή ο πεζός στον δρόμο; Η απόφαση δεν είναι εύκολη. Κι όμως, στο άμεσο μέλλον είναι η ρύθμιση των επιλογών που θα πρέπει να σχεδιαστούν για εκατομμύρια αυτόνομα οχήματα. Προγραμματίζουμε τη μηχανή, αλλά ποιον της λέμε να σώσει;

Κατά τη διάρκεια μιας οιασδήποτε μέρας, χωρίς να το συνειδητοποιούμε, παίρνουμε ένα σωρό αποφάσεις ηθικού χαρακτήρα. Στα αυτόνομα αυτοκίνητα, τα αυτοκίνητα χωρίς οδηγό, αυτές οι αποφάσεις πρέπει να ενσωματωθούν στο πρόγραμμα πριν ακόμη τη λειτουργία του οχήματος.

Στην κατεύθυνση αυτή έχουν γίνει πολλές έρευνες σχετικά με τη λογική της λήψης των αποφάσεων. Στο δίλημμα του τύπου «Ποιον θα σώσει το αυτοκίνητο, μια πενταμελή οικογένεια ή μια γάτα;» η απόφαση είναι προφανής. Τι γίνεται όμως όταν έχει να διαλέξει ανάμεσα σε έναν επιχειρηματία και έναν άστεγο και το σκυλί του; Ή δύο αθλητές και μια ηλικιωμένη στη θέση δύο μαθητών του δημοτικού;

Εννοείται πως οι αποφάσεις που λαμβάνουμε υπακούουν σε πρότυπα υψηλότερης ηθικής στάθμης από τη στατιστική ακρίβεια. Για αιώνες, οι κοινές αρετές της αμοιβαίας εμπιστοσύνης, τoυ περιορισμού των

Τα αυτόνομα αυτοκίνητα θα… φιλοσοφούν τις κινήσεις τους

Τα αυτόνομα αυτοκίνητα θα…

φιλοσοφούν τις κινήσεις τους

 

 

 

Ομάδα φιλοσόφων αναπτύσσει αλγόριθμους που θα ελέγχουν την λειτουργία αυτόνομων οχημάτων χρησιμοποιώντας ηθικούς κώδικες. Ποιες απαντήσεις δίνονται στο «πρόβλημα του τρόλεϊ» και πώς αντιμετωπίζονται τα τεράστια ηθικά αλλά και πρακτικά διλήμματα προκύπτουν.

Οι μεγάλες αυτοκινητοβιομηχανίες αλλά και γίγαντες της βιομηχανίας της τεχνολογίας (π.χ Google) κατασκευάζουν αυτοκίνητα που θα διαθέτουν συστήματα αυτόνομης οδήγησης. Τα πρώτα τέτοια οχήματα έχουν ήδη κάνει την εμφάνιση τους αλλά οι μηχανικοί και οι ερευνητές εργάζονται πυρετωδώς για να βελτιώσουν, όσο το δυνατόν είναι εφικτό, τη νοημοσύνη αλλά και τις ικανότητες αυτών των συστημάτων, ώστε η οδήγηση που θα κάνουν να είναι κατά το δυνατόν πιο σωστή και πάνω από όλα ασφαλής για όλους. Τόσο για τους επιβάτες του αυτόνομου οχήματος και για τα άλλα οχήματα που κινούνται στον ίδιο δρόμο αλλά και τους πεζούς.

Εκτός από τα διάφορα τεχνικά ζητήματα που πρέπει να λυθούν για την δημιουργία και λειτουργία αυτόνομων οχημάτων έχει προκύψει και ένα θέμα που έχει ονομαστεί ως το «πρόβλημα του τρόλεϊ». Πρόκειται για ένα θέμα που κινείται στην σφαίρα της ηθικής.

Το «πρόβλημα του τρόλεϊ» διατυπώθηκε το 1978 και αποτελεί ένα ηθικό δίλημμα. Σύμφωνα με αυτό, πέντε άνθρωποι κινδυνεύουν να σκοτωθούν γιατί ένα τρόλεϊ κατευθύνεται επάνω τους. Οι άνθρωποι μπορούν να σωθούν εάν ο οδηγός τραβήξει χειρόφρενο και έτσι το τρόλεϊ να μπει στον παράδρομο. Στον παράδρομο όμως βρίσκεται ένας άνθρωπος – εάν το τρόλεϊ πάει προς τα εκεί, ο άνθρωπος θα σκοτωθεί. Το δίλημμα λοιπόν είναι εάν ο οδηγός θα επιλέξει να σκοτώσει ένα ή πέντε άτομα.

Το πρόβλημα αυτό θα πρέπει να απαντηθεί και στην περίπτωση των αυτόνομων αυτοκινήτων που θα καλούνται να πάρουν κάποια στιγμή δύσκολες αποφάσεις. Ας δούμε μερικά παραδείγματα: 

1) Ενα αυτόνομο αυτοκίνητο που μεταφέρει επιβάτες είναι σίγουρο ότι θα χτυπήσει πεζούς αν δεν αλλάξει αμέσως κατεύθυνση – αν όμως στρίψει είναι σίγουρο ότι θα πέσει πάνω σε κάποιο τοίχο ή σε μια κολόνα και πιθανώς θα τραυματίσει ή θα σκοτώσει τους επιβάτες του. 

2) Ένα αυτόνομο αυτοκίνητο χωρίς επιβάτες βγαίνει από την πορεία του και είτε θα πέσει πάνω σε ένα ζευγάρι ηλικιωμένων ατόμων είτε πάνω σε ένα μικρό παιδί. 

3) Ένα αυτόνομο αυτοκίνητο βγαίνει από την πορεία του και είτε θα στρίψει πέφτοντας πάνω σε ένα άλλο αυτοκίνητο ή σε μια μοτοσυκλέτα είτε θα πέσει σε γκρεμό.

 Ποια απόφαση πρέπει να λάβει το αυτοκίνητο σε κάθε περίπτωση; Υπάρχει κάποια ηθική απάντηση στο ερώτημα του τι πρέπει να κάνει το όχημα όταν έρθει αντιμέτωπο με τις πιθανότητες ενός τροχαίου ατυχήματος; 

H φιλοσοφική προσέγγιση 

Η απάντηση, όπως λένε πολλοί, δεν μπορεί να έρθει μόνο από τους μηχανικούς ή τους ειδικούς στον τομέα της τεχνητής νοημοσύνης αλλά πρέπει να εμπλακούν και άλλες ειδικότητες, όπως αυτή των φιλοσόφων. Οπως αναφέρει η ιστοσελίδα qz.com, μία ομάδα φιλοσόφων με επικεφαλής τον Νίκολας Εβανς, καθηγητή Φιλοσοφίας του αμερικανικού πανεπιστημίου Mass Lowell, αναπτύσσει αλγορίθμους. Η ομάδα πιστεύει ότι οι αλγόριθμοι αυτοί θα επιτρέψουν στο αυτόνομο όχημα να ανταποκριθεί σωστά σε μια σειρά από πιθανά σενάρια που μπορεί να αντιμετωπίσει στο δρόμο.

Η ομάδα έχει λάβει χρηματοδότηση 560 χιλιάδων δολαρίων από το Εθνικό Ίδρυμα Ερευνών των ΗΠΑ για

Πώς πρέπει να προγραμματιστούν τα αυτόνομα οχήματα;

Πώς πρέπει να προγραμματιστούν τα αυτόνομα οχήματα;

Μια μεγάλη παγκόσμια έρευνα που διεξήχθη από τους ερευνητές του MIT αποκαλύπτει τις διαφορετικές παγκόσμιες προτιμήσεις σχετικά με τη δεοντολογία των αυτόνομων οχημάτων, καθώς και ορισμένες περιφερειακές αποκλίσεις στις προτιμήσεις αυτές.

Η έρευνα έχει παγκόσμια εμβέλεια με πάνω από 2 εκατομμύρια διαδικτυακούς συμμετέχοντες από περισσότερες από 200 χώρες που τους δόθηκε το ηθικό αίνιγμα που αποκαλείται «το πρόβλημα του τρόλλευ» (Trolley Problem). Το πρόβλημα ενέχει πολλά και διαφορετικά σενάρια όπου ένα ατύχημα με ένα όχημα είναι επικείμενο και το όχημα πρέπει να επιλέξει μία από δυο δυνητικά θανατηφόρες επιλογές. Στην περίπτωση των μηχανοκίνητων οχημάτων, αυτό μπορεί να σημαίνει στροφή προς δύο άτομα, αντί για μια μεγάλη ομάδα παρευρισκομένων.

«Η μελέτη προσπαθεί ουσιαστικά να κατανοήσει τα είδη των ηθικών αποφάσεων που μπορεί να χρειαστεί να χρησιμοποιήσουν τα αυτοκίνητα χωρίς οδηγό», λέει ο Edmond Awad, που είναι μεταδιδακτορικός στο MIT Media Lab, στην εργασία του που περιγράφει τα αποτελέσματα του έργου. Ακόμα, ο Awad προσθέτει: «Βρήκαμε ότι υπάρχουν τρία στοιχεία που οι άνθρωποι φαίνεται να συμφωνούν» και επιγραμματικά τα τοποθετεί σε τρεις κατηγορίες προτιμήσεων και αυτές είναι: πρώτον, η προτίμηση διάσωσης της ζωής των ανθρώπων έναντι των ζώων, δεύτερον, η προτίμηση διάσωσης των περισσότερων ανθρώπων έναντι των λιγότερων και, τρίτον, η προτίμηση διάσωσης των νεότερων ανθρώπων έναντι των ηλικιωμένων.

Συνεχίζει λέγοντας ότι: «οι κύριες αυτές προτιμήσεις συμφωνήθηκαν παγκοσμίως σε κάποιο βαθμό, ο οποίος ποικίλλει μεταξύ διαφορετικών ομάδων και χωρών». Για παράδειγμα, οι ερευνητές βρήκαν μια λιγότερο έντονη τάση να ευνοούν τους νεότερους ανθρώπους, παρά τους ηλικιωμένους, σε αυτό που όρισαν ως "ανατολικό" σύμπλεγμα χωρών, συμπεριλαμβανομένων πολλών χωρών από την Ασία.

Για την διεξαγωγή της έρευνας, οι ερευνητές σχεδίασαν ένα πολυγλωσσικό παιχνίδι μέσω διαδικτύου που το αποκάλεσαν «Ηθική Μηχανή», βάσει του οποίου, οι συμμετέχοντες θα μπορούσαν να δηλώσουν τις προτιμήσεις τους σχετικά με μια σειρά διλημμάτων που ενδέχεται να αντιμετωπίσουν τα αυτόνομα οχήματα. Παραδείγματος χάριν: Θα πρέπει τα αυτόνομα οχήματα να σέβονται εξίσου τη ζωή των ανθρώπων που διασχίζουν νόμιμα τον δρόμο με τη ζωή των ανθρώπων που παραβιάζουν τους οδικούς κανόνες; (Οι περισσότεροι άνθρωποι στην έρευνα επέλεξαν την πρώτη.)

Η «Ηθική Μηχανή» συγκέντρωσε σχεδόν 40 εκατομμύρια ατομικές αποφάσεις από ερωτηθέντες σε 233

Θα επέτρεπες σε ένα αυτόνομο όχημα τεχνητής νοημοσύνης να αποφασίσει για τη ζωή σου; Βίντεο

Θα επέτρεπες σε ένα αυτόνομο όχημα τεχνητής νοημοσύνης 
να αποφασίσει για τη ζωή σου;

Τα αυτοκινούμενα οχήματα, τα οποία έχουν ενσωματωμένη την τεχνητή νοημοσύνη, αποτελούν ήδη μια πραγματικότητα και τα επόμενα χρόνια αναμένεται να αυξηθεί  τόσο ο αριθμός τους όσο και οι ικανότητές τους.[1]  Παρά το γεγονός ότι τα αυτοκινούμενα οχήματα  θα είναι αδιαμφισβήτητα ασφαλέστερα από τα συμβατικά αυτοκίνητα, δε θα είναι όμως εφικτό να αποφευχθούν παντελώς τα ατυχήματα.  Μάλιστα τα αποτελέσματα αυτών των ατυχημάτων θα έχουν προγραμματιστεί χρόνια πριν, από τους προγραμματιστές ή τους διαμορφωτές της πολιτικής. Σε ένα ατύχημα με αυτοκίνητο συμβατικού τύπου, η όποια ενέργεια του οδηγού θα εκλαμβάνονταν ως μια απλή ακούσια αντίδραση, ενώ η αντίδραση των αυτοκινούμενων οχημάτων θα είναι μια εκ των προτέρων ειλημμένη εκούσια απόφαση.

Η ηθική φύση αυτών των ατυχημάτων θα είναι εντελώς διαφορετική και εξ αυτού του λόγου οι νομικές  και ηθικές προκλήσεις της νέας αυτής πραγματικότητας θα είναι τεράστιες.   Τα αυτόνομα οχήματα θα λαμβάνουν αποφάσεις οι  οποίες θα επηρεάζουν τη ζωή αρκετών ατόμων.  Πώς και με ποια κριτήρια, θα πρέπει να  έχει από πριν προγραμματιστεί  ένα αυτοκίνητο στην περίπτωση που εμπλακεί σε ένα αναπόφευκτο θανατηφόρο ατύχημα; Στο  εξαιρετικό βίντεο της ανάρτησης μπορούμε να δούμε ορισμένα από τα σημαντικότερα ηθικά διλήμματα που προκύπτουν  από τη χρήση αυτοκινούμενων οχημάτων.[2]

Ας υποθέσουμε ότι τα φρένα σε ένα αυτόνομο όχημα έχουν χαλάσει και αυτό πραγματοποιεί μια ανεξέλεγκτη πορεία. Οι υπάρχουσες επιλογές είναι δυο, είτε το αυτοκίνητο να πέσει πάνω σε κάποιον τοίχο και πιθανότατα να σκοτωθεί ο οδηγός του ή να συνεχίσει  κανονικά στον δρόμο του,  στον οποίο όμως εκείνη την ώρα περνούν μερικά παιδιά, με αποτέλεσμα να αφαιρέσει τη ζωή τους σώζοντας όμως τη ζωή του οδηγού.[3]  Ένας οδηγός ενός ανεξέλεγκτου συμβατικού οχήματος, πιθανότατα θα προτιμούσε να θυσιάσει τον εαυτό του, παρά να σκοτώσει τα παιδιά. Στην περίπτωση όμως των

Ο Κωνσταντίνος Δασκαλάκης και η τεχνητή νοημοσύνη στα άκρα….

Ο Κωνσταντίνος Δασκαλάκης στα άκρα..

Ο διαπρεπής Έλληνας  καθηγητής του ΜΙΤ  Κωνσταντίνος Δασκαλάκης, φιλοξενήθηκε  πριν από λίγο χρονικό διάστημα από την  παρουσιάστρια Βίκυ Φλέσσα στην εκπομπή «ΣΤΑ ΑΚΡΑ» της κρατικής τηλεόρασης. Στο πρώτο από τα δύο βίντεο της ανάρτησης μπορείτε να παρακολουθήσετε το B΄ μέρος της συνέντευξης, στο όποιο ο Κωνσταντίνος Δασκαλάκης κάνει λόγο για την  4^η βιομηχανική επανάσταση, δηλαδή την τεχνητή νοημοσύνη. Αναλύει τόσο τους κινδύνους που ελλοχεύουν από την εξάπλωση της εν  λόγω τεχνολογίας, όσο και τα αναμφισβήτητα θετικά οφέλη που θα προκύψουν από την ανάπτυξή της για την ανθρωπότητα. Τονίζει επίσης ότι πριν από την πλήρη ανάπτυξή της, θα πρέπει να έχει προηγηθεί ένας ενδελεχής και εξαντλητικός διάλογος, ώστε αυτή να χρησιμοποιηθεί με τέτοιον τρόπο που θα ωφελήσει το ανθρώπινο γένος. Στη συνέντευξη εξετάζονται ιδιαίτερα, πρώτον τα ηθικά διλήμματα που ανακύπτουν από τη χρήση των  αυτοκινούμενων οχημάτων και δεύτερον το αναμενόμενο πρόβλημα της ανεργίας που θα προκύψει όταν θα εξαπλωθούν πλήρως οι εφαρμογές της τεχνητής νοημοσύνης.

Ιδιαίτερο ενδιαφέρον παρουσιάζει και το πρώτο μέρος της συνέντευξης,  στο οποίο ο Κωνσταντίνος Δασκαλάκης μιλά για κρίσιμα θέματα όπως είναι η παιδεία και η αριστεία.  Επίσης, μας περιγραφεί την πράγματι θαυμαστή διαδρομή του, από  το τότε πειρατικό σχολείο της Βαρβακείου, έως το παγκοσμίου βεληνεκούς ΜΙΤ, όπου στα 27 του χρόνια έγινε καθηγητής.

Τεχνητή Νοημοσύνη: Οι κίνδυνοι

Τεχνητή Νοημοσύνη

Του Γιώργου Κρασαδάκη*

Η πρόοδος της τεχνητής νοημοσύνης είναι εντυπωσιακή, με σημαντικά οφέλη σε πολλά επίπεδα. Ωστόσο υπάρχουν σοβαρά ερωτήματα με πολιτικές, κοινωνικές και ηθικές προεκτάσεις. Η γενική ανησυχία επικεντρώνεται στην τεχνολογική ανεργία ενώ εξίσου μεγάλα ερωτήματα υπάρχουν σχετικά με τις εφαρμογές της τεχνητής νοημοσύνης, την  πρόσβαση στα δεδομένα και στη γνώση που παράγεται από την ανάλυση τους.

Τα σενάρια δυστοπίας σχετικά με την τεχνητή νοημοσύνη βασίζονται στα ακόλουθα:

Οπλικά συστήματα – Lethal Autonomous Weapons

Η έννοια της αυτόνομης μηχανής είναι γενικά εντυπωσιακή – για παράδειγμα ένα αυτόνομο αυτοκίνητο που, σεβόμενο τους κανόνες κυκλοφορίας, παίρνει τις απαιτούμενες αποφάσεις για να πετύχει με τον καλύτερο τρόπο τον αντικειμενικό σκοπό όπως έχει τεθεί από τον επιβάτη (την μεταφορά από το σημείο Α στο Β). Στα πλαίσια όμως ενός οπλικού συστήματος, αυτή η αυτονομία ‘βέλτιστων’ αποφάσεων για την επίτευξη προκαθορισμένων στόχων, ακούγεται τρομακτική. Τα Lethal Autonomous Weapons (LAWs) περιγράφουν προηγμένα ρομποτικά συστήματα στρατιωτικής χρήσης, που θα μπορούν να πλήξουν στόχους ‘αυτόνομα’ – χωρίς ανθρώπινη παρέμβαση ή έγκριση.

Ποιος όμως θα ελέγχει το γενικό σχεδιασμό, το πλαίσιο λειτουργίας και την ανάθεση στόχων ενός τέτοιου ρομπότ; Πως ένα ρομπότ θα μπορεί να διακρίνει την ιδιαιτερότητα μίας κατάστασης και να την λάβει υπόψη του σε μία απόφαση για επίθεση με ενδεχόμενο κόστος σε ανθρώπινες ζωές;

Τα οπλικά συστήματα που είναι διαθέσιμα σήμερα, έχουν σχετικούς περιορισμούς – με την έννοια ότι απαιτείται έγκριση από άνθρωπο για την πραγματοποίηση επίθεσης. Ωστόσο, τα LAWs δεν έχουν απαγορευτεί ακόμα, παρά την γενική κινητοποίηση επιστημόνων και επιχειρηματιών του χώρου.

Ακεραιότητα και αμεροληψία

Τα ευφυή συστήματα μαθαίνουν αναλύοντας μεγάλους όγκους δεδομένων και συνεχίζουν να προσαρμόζονται αναλύοντας τις αλληλεπιδράσεις με το περιβάλλον τους. Πως μπορούμε όμως να

Ρομποτική και τεχνητή νοημοσύνη: ηθικά και νομικά διλλήματα

Αυτοκινούμενα οχήματα

Τα αυτοκινούμενα οχήματα, τα μη επανδρωμένα αεροσκάφη, τα ρομπότ που χρησιμοποιούνται στην ιατρική, τη γεωργία ή στις κατασκευές, αποτελούν τη νέα πραγματικότητα και τα επόμενα χρόνια αναμένεται να αυξηθεί και ο αριθμός τους αλλά και οι ικανότητές τους. Οι ηθικές και οι νομικές προκλήσεις αυτής της κοινωνικής μετατόπισης θα είναι τεράστιες και οι νομοθέτες πρέπει να είναι έτοιμοι. Το ζήτημα συζητήθηκε σε ακρόαση του ΕΚ με ευρωβουλευτές και ειδικούς, στις 21 Απριλίου.
Τα αυτόματα όπλα, τα αυτοκινούμενα οχήματα και πολλές ακόμα έξυπνες συσκευές δεν αποτελούν πλέον επιστημονική φαντασία, καθώς η τεχνητή νοημοσύνη και η ρομποτική προχωρούν με ταχύτατους ρυθμούς.Την ίδια στιγμή, το 72% των Ευρωπαίων πιστεύουν ότι τα ρομπότ αποτελούν θετική εξέλιξη για την κοινωνία, καθώς μπορούν να βοηθήσουν τον άνθρωπο, σύμφωνα με έρευνα του Ευρωβαρόμετρου, που δημοσιεύτηκε το 2015.
'Έτσι, με αφορμή τη συζήτηση που πραγματοποιήθηκε στην ολομέλεια του Απριλίου για τα αυτοκινούμενα οχήματα, η επιτροπή Νομικών Θεμάτων του ΕΚ, πραγματοποίησε ακρόαση και συζήτησε με ειδικούς και επιστήμονες για την ασφάλεια και τη διαχείριση των νέων αυτών τεχνολογιών, στις 21 Απριλίου."Η πρόοδος που θα φέρει η τεχνητή νοημοσύνη μπορεί να λειτουργήσει αποσταθεροποιητικά, ενώ για ορισμένα έθνη δεν θα είναι εύκολο να προσαρμοστούν", είπε ο Niel Bowerman από το πανεπιστήμιο της Οξφόρδης, κατά τη διάρκεια της συζήτησης.
Ο πρόεδρος της επιτροπής Νομικών Θεμάτων Πάβελ Σβόμποτα (ΕΛΚ, Τσεχία), τόνισε ότι το κεντρικό μήνυμα στην επιστήμη της πληροφορικής στο μέλλον θα πρέπει να περιστρέφεται γύρω από τις αξίες, οι οποίες θα πρέπει να μεταδοθούν και μέσα από τις νέες τεχνολογίες."Τα ρομπότ δεν αναγνωρίζονται στο αστικό δίκαιο. Μπορεί ένα ρομπότ να εκφράσει την πρόθεσή του; Νομίζω ότι η απάντησή είναι πολύ