Ο Νίκος Οικονόμου διετέλεσε για 20 χρόνια διευθύνων σύμβουλος της Η5, μίας εταιρίας πρωτοπόρος στην εφαρμογή της τεχνητής νοημοσύνης σε καίριες πτυχές του Αμερικανικού νομικού συστήματος. Προεδρεύει των επιτροπών δικαίου του ΙΕΕΕ Global Initiative on Ethics of Intelligent and Autonomous Systems και της The Future Society. Διατελεί συντονιστής της The Athens Roundtable on Artificial Intelligence and the Rule of Law, ένα διεθνές φόρουμ που ιδρύθηκε το 2019 υπό την αιγίδα του Προέδρου της Ελληνικής Δημοκρατίας. Ο κ. Οικονόμου είναι μέλος του Διεθνούς Συμβουλευτικού Συμβουλίου της Επιτροπής του Ευρωπαϊκού Κοινοβουλίου για το Μέλλον της Επιστήμης και της Τεχνολογίας (STOA) και του Council on Extended Intelligence (CXI), μια κοινή πρωτοβουλία του MIT Media Lab και της IEEE-SA. Εκπαιδεύτηκε στις πολιτικές επιστήμες στο Graduate Institute of International Studies του Πανεπιστημίου της Γενεύης και απέκτησε ένα Μάστερ στη διοίκηση επιχειρήσεων (M.B.A.) από τη σχολή Wharton του Πανεπιστημίου της Πενσυλβάνιας.
Ο κ. Οικονόμου έχει παρουσιαστεί στο περιοδικό Forbes και είναι ο συγγραφέας πολλών δημοσιευμένων άρθρων για θέματα που σχετίζονται με την τεχνολογία και την πρακτική του δικαίου. Ήταν μέλος της Επιτροπής Πολιτικής Δικαίου και Δικαιοσύνης για την πρώτη προεδρική καμπάνια του Μπαράκ Ομπάμα.
Ο κ. Οικονόμου θα μετάσχει στο SNF Nostos Conference 2021, που διοργανώνεται φέτος με θέμα «Ανθρωπότητα και Τεχνητή Νοημοσύνη» και αναμένεται να προσφέρει μία ματιά, όχι μόνο στις τεχνολογίες που θα διαμορφώσουν το μέλλον μας. Από τις 26 ως τις 27 Αυγούστου του 2021, το Ίδρυμα Σταύρος Νιάρχος θα συγκεντρώσει στο Κέντρο Πολιτισμού Ίδρυμα Σταύρος Νιάρχος (ΚΠΙΣΝ) μια ποικιλόμορφη ομάδα ηγετών, εμπειρογνωμόνων, οραματιστών και καλλιτεχνών από ολόκληρο τον κόσμο, οι οποίοι θα διερευνήσουν αυτά τα ερωτήματα, και τους πολλούς πιθανούς τρόπους με τους οποίους θα αλληλεπιδράσει η Τεχνητή Νοημοσύνη με την ανθρωπότητα μέσα στις επόμενες δεκαετίες.
Για περισσότερες πληροφορίες ή για να εγγραφείτε και να παρακολουθήσετε το SNF Nostos Conference, επισκεφθείτε το snfnostos.org/snf-conference-2021.
Η συνέντευξη
- Πώς επηρεάζει τη ζωή μας η τεχνητή νοημοσύνη;
Μια πτυχή που με ενδιαφέρει ιδιαίτερα στην ερώτησή σας δεν είναι το πώς επηρεάζεται η καθημερινότητά μας, αλλά πώς επηρεάζεται η ίδια η αντίληψή μας, της ανθρώπινης εμπειρίας. Η τεχνητή νοημοσύνη, σε συνδυασμό με τις ψηφιακές πλατφόρμες που χρησιμοποιούμε όλοι καθημερινά, παράγει μια όλο και πιο εμπεριστατωμένη και πλούσια κατανόηση των προτιμήσεών μας, των αντιπαθειών μας, των προσωπικών και κοινωνικών μας σχέσεων, και της ψυχολογίας μας -με λίγα λόγια, μια ολοκληρωμένη κατανόηση του εαυτού μας. Αυτό μπορεί να μας είναι χρήσιμο σε κάθε τομέα της ζωής μας. Παραδείγματος χάριν, μπορεί να μας δώσει πρόσβαση σε πληροφορίες, υπηρεσίες, και πόρους που θα μας βοηθήσουν να εξελιχθούμε προσωπικά και επαγγελματικά με τρόπους αδιανόητους για τις προηγούμενες γενιές. Μπορεί επίσης να βοηθήσει τους κυβερνόντες να παρέχουν καλύτερες υπηρεσίες στον πολίτη, πχ στον τομέα της υγείας. Αλλά φυσικά υπάρχουν ανάλογοι κίνδυνοι, εκ των οποίων θα ήθελα να επισημάνω δύο. Πρώτον, δεν μπορούμε να αντιληφθούμε την ανθρώπινη εμπειρία χωρίς αξιοπρέπεια. Αξιοπρέπεια χωρίς την προστασία της ιδιωτικής ζωής είναι αδιανόητη. Η συσσωρευμένη γνώση της ζωής και προσωπικότητάς μας, από παιδικής ηλικίας, που μπορεί να συλληφθεί και να επεξεργασθεί μέσω συστημάτων τεχνητής νοημοσύνης, συνιστά μια τρομακτική παραβίαση της ιδιωτικής ζωής, ασχέτως του εάν και πως προστατεύονται αυτά τα στοιχεία. Ως εκ τούτου, η τεχνητή νοημοσύνη είναι μακροπρόθεσμα μια θεμελιώδης απειλή για την αξιοπρέπεια μας, και κατά συνέπεια για το πώς διανοούμαστε και βιώνουμε την ανθρώπινη εμπειρία. Δεύτερον, η τεχνητή νοημοσύνη συνεπάγεται μια υποκείμενη μεταφορά ισχύος (transfer of power). Όταν εταιρείες η κυβερνήσεις γνωρίζουν διαχρονικά κάθε πτυχή της ζωής μας, δύνανται να μας καταλάβουν καλύτερα από ότι οι ίδιοι καταλαβαίνουμε τον εαυτό μας η απ’ ότι οι δικοί μας άνθρωποι μας καταλαβαίνουν. Αυτό δημιουργεί μια μεταφορά ισχύος από εμάς και τους οικογενειακούς μας κύκλους σε ιδιωτικούς και δημόσιους φορείς. Αυτό το φαινόμενο μας αποδυναμώνει και εν δυνάμει μας κάνει ευάλωτους σε εκμετάλλευση η χειραγώγηση. Μια σημαντική πρόκληση της ψηφιακής εποχής είναι να διασφαλιστεί ότι ελέγχεται αυτή η μεταφορά ισχύος. Σήμερα, η χρήση και οι δυνατότητες της τεχνητής νοημοσύνης βρίσκονται ακόμα σε εμβρυϊκό στάδιο, οπότε έχουμε ακόμα κάποιο χρόνο για να επιτευχθεί αυτός ο σκοπός. Αλλά δεν έχουμε και χρόνο για χάσιμο…
- Πώς θα μπορεί να βελτιώσει τη ζωή στη βάση με έναν πιο βιώσιμο και πιο δίκαιο τρόπο;
Η τεχνητή νοημοσύνη έχει τη δυνατότητα να προωθήσει την ανθρώπινη ευδαιμονία. Φανταστείτε έναν κόσμο όπου ακριβείς και έγκαιρες ιατρικές διαγνώσεις και πολλές θεραπείες είναι προσβάσιμες εύκολα, φτηνά, και άμεσα σε όλους του πολίτες της γης, όχι μόνον στους πιο εύπορους. Φανταστείτε έναν κόσμο όπου τεχνητά ευφυείς ψηφιακοί διδάσκαλοι, εξοπλισμένοι με όλες της γνώσεις του κόσμου καθώς και με άπειρη υπομονή, προσαρμόζουν τη διδασκαλία τους σε κάθε παιδί ώστε, στο μέτρο των ικανοτήτων τους, τα παιδιά του κόσμου θα μαθαίνουν γραμματική, ιστορία, μαθηματικά, ή φυσική με τον τρόπο που διδάσκονται στα καλύτερα σχολεία και πανεπιστήμια. Φανταστείτε έναν κόσμο όπου οι φτωχότεροι πολίτες, οι οποίοι σήμερα ουσιαστικά αποκλείονται από την πρόσβαση στο πιστωτικό σύστημα, θα μπορούν εύκολα να λαμβάνουν µικροδάνεια, χάρη σε αποτελεσματικά, χαμηλού κόστους συστήματα τεχνητής νοημοσύνης που θα αξιολογούν άμεσα και με ακρίβεια την πιστοληπτική τους ικανότητα. Φανταστείτε ένα κόσμο όπου πολίτες που σήμερα δεν έχουν τη δυνατότητα πρόσβασης στη δικαιοσύνη, θα μπορούν να εκπροσωπούνται σε ίσους όρους με τους πιο εύπορους, διότι τεχνητά νοήμονες ψηφιακοί δικηγόροι και δικαστές θα παράγουν δίκαιες, ποιοτικές, γρήγορες, και αξιόπιστες—έστω και συμβουλευτικές η ενδεικτικές—πρωτοβάθμιες αποφάσεις. Αμφιβάλλω εάν η τεχνητή νοημοσύνη θα μπορέσει ποτέ να ικανοποιήσει έστω και μερικές από αυτές τις προσδοκίες. Σίγουρα όμως θα μπορέσει, μακροπρόθεσμα, να ανταποκριθεί σε κάποιες διαβαθμίσεις αυτών των επιδιώξεων, οι οποίες πρωτίστως θα βελτιώσουν την ζωή και θα προστατεύουν την αξιοπρέπεια των απλών πολιτών. Βεβαίως, όταν γίνεται λόγος για πιθανή ανάθεση τόσο βασικών πτυχών της ζωής των πολιτών (εκπαίδευση, υγεία, δικαιοσύνη, κτλ), έστω και εν μέρει, στην τεχνητή νοημοσύνη, είναι απολύτως απαραίτητο να διασφαλίσουμε ότι τα συστήματα αυτά είναι αξιόπιστα. Η διασφάλιση της αξιοπιστίας αυτής είναι, κατά τη γνώμη μου, ίσως η πιο σημαντική πρόκληση που αντιμετωπίζουν οι κοινωνίες μας.
- Με το περιβάλλον να είναι στην πρώτη γραμμή ενδιαφέροντος, πώς θα μπορούσε να αξιοποιηθεί σε θέματα πρόληψης καταστροφών ή άλλων φαινομένων;
Τα συστήματα τεχνητής νοημοσύνης μπορούν να προσφέρουν ισχυρά εργαλεία για την αντιμετώπιση της κλιματικής αλλαγής. Για παράδειγμα, η κλιματική αλλαγή μπορεί εν μέρει να αντιμετωπιστεί με την μείωση εκπομπών αερίων θερμοκηπίου. Τα συστήματα τεχνητής νοημοσύνης, με την διαρκώς αυξανόμενη διαθεσιμότητα δεδομένων, μπορούν να συμβάλλουν στην αύξηση της αποδοτικότητας βιομηχανικών συστημάτων, στη μείωση των εκπομπών CO2 των υφιστάμενων μονάδων παραγωγής ηλεκτρικής ενέργειας, καθώς και στη μετάβαση σε ανανεώσιμες πηγές ενέργειας. Όσον αφορά τη χρήση της τεχνητής νοημοσύνης για την πρόληψη η αντιμετώπιση καταστροφών, προηγμένα συστήματα πρόγνωσης καιρού που συνδυάζουν την τεχνητή νοημοσύνη με φυσικά μοντέλα και τοπικά δεδομένα, προσφέρουν ένα νέο σύνολο εργαλείων για την παροχή ακριβέστερης και ταχύτερης πρόβλεψης ακραίων καιρικών φαινομένων. Αλλά κατά την άποψή μου, η τεχνητή νοημοσύνη δεν δύναται να αντικαταστήσει η να καλύψει την επείγουσα πολιτική βούληση που χρειάζεται για να σωθεί ο πλανήτης μας. Οι απαραίτητες διαρθρωτικές αλλαγές είναι γνωστές.
- Άραγε μπορούμε να περιορίσουμε τους κινδύνους της Τεχνητής Νοημοσύνης, και να διασφαλίσουμε ότι τα οφέλη της θα διαμοιραστούν ευρέως;
Αυτό είναι ένα υπαρξιακό ερώτημα για την ανθρωπότητα. Κατά τη γνώμη μου, απαιτούνται τρία στοιχεία προκειμένου να διασφαλιστεί ότι οι κοινωνίες μας θα αποκομίσουν τα οφέλη της τεχνητής νοημοσύνης μετριάζοντας ταυτόχρονα τους κινδύνους της.
- Πρώτον, χρειαζόμαστε νομικά πλαίσια προσαρμοσμένα στον ψηφιακό κόσμο, με γνώμονα τα ανθρώπινα δικαιώματα και τις δημοκρατικές μας αξίες. Αυτό μπορεί να φαίνεται αυτονόητο, αλλά στην πραγματικότητα αποδεικνύεται δύσκολο για τα νομοθετικά μας συστήματα να προσαρμοστούν στην ταχύτητα της τεχνολογικής αλλαγής.
- Δεύτερον, χρειαζόμαστε έναν τεκμηριωμένο μηχανισμό για να εκτιμήσουμε τον βαθμό στον οποίο συστήματα τεχνητής νοημοσύνης συμμορφώνονται με τα ανθρώπινα και δημοκρατικά δικαιώματα. Σήμερα, υπάρχουν ελάχιστα επιστημονικά σημεία αναφοράς. Στις ΗΠΑ, το National Institute of Standards and Technology(US NIST) κάνει ποιοτική δουλειά σε ότι αφορά τα συστήματα αναγνώρισης προσώπων (facial recognition), αναλύοντας τον βαθμό κατά τον οποίο συμμορφώνονται με την αρχή της μη διάκρισης. Κατ’ αναλογία, ως πολίτες, δεν πιστεύουμε ότι ορισμένα αυτοκίνητα είναι ασφαλή επειδή οι κατασκευαστές αυτοκινήτων μας λένε ότι είναι ασφαλή. Πιστεύουμε ότι είναι ασφαλή λόγω δοκιμών σύγκρουσης (crash tests). Ανάλογα crash tests για την τεχνητή νοημοσύνη είναι αναγκαία, προκειμένου να αποδειχθεί η συμμόρφωση τους με τα ανθρώπινα δικαιώματα, όπως πχ η μη διάκριση. H διεξαγωγή τέτοιων δοκιμών και εκτιμήσεων τεχνολογιών τεχνητής νοημοσύνης είναι δυνατές, αλλά είναι περίπλοκες, καθώς απαιτούν, πέραν από πόρους και τεχνογνωσία, έναν αντικειμενικό ορισμό πολύπλοκων και ευαίσθητων εννοιών, πχ τι είναι δίκαιο σε συγκεκριμένες περιστάσεις η τι ακριβώς εννοούμε όταν λέμε «μη διάκριση».
- Τέλος, χρειαζόμαστε διεθνή συνεργασία μεταξύ χωρών των οποίων οι κοινωνίες βασίζονται σε ανθρωπιστικές και δημοκρατικές αξίες. Οι ΗΠΑ και η Ευρώπη έχουν καθήκον να συνεργαστούν σε αυτό το τομέα, ώστε να αποφευχθεί η επικράτηση, στην ψηφιακή εποχή, πιο αυταρχικών αντιλήψεων διακυβέρνησης υποβοηθούμενες από την τεχνητή νοημοσύνη.
- Πού αναμένεται να έχει μεγαλύτερη επίδραση σε ποιους τομείς;
Πιστεύω ότι η τεχνητή νοημοσύνη θα ενσωματωθεί σε όλους τους τομείς, θα έλεγα στον ιστό της ζωής μας και των θεσμών της κοινωνίας. Είναι δύσκολο να διακρίνει κάποιος έναν συγκεκριμένο τομέα. Αλλά όπως πάντα, ο αντίκτυπος θα είναι πιο ορατός και εμφανής στους τομείς στους οποίους οι κοινωνίες αφιερώνουν παραδοσιακά τους περισσότερους πόρους, συμπεριλαμβανομένης της εθνικής άμυνας.
- Η Τεχνητή Νοημοσύνη πόσο επηρεάζει την εργασία και τις σχέσεις των ανθρώπων;
Όσον αφορά την τεχνητή νοημοσύνη και την εργασία, οι προηγούμενες βιομηχανικές επαναστάσεις συνιστούν ένα ενδιαφέρον σημείο αναφοράς. Πιστεύω ότι βραχυπρόθεσμα (τα επόμενα 30-50 χρόνια) η τεχνητή νοημοσύνη θα διαταράξει βαθύτατα ολόκληρους τομείς της οικονομίας και της κοινωνίας, καθιστώντας παρωχημένους (ή κατά πολύ αποδυναμωμένους) πολλούς επαγγελματικούς κλάδους, προκαλώντας τεράστιες οικονομικές ζημιές σε όσους αδυνατούν να προσαρμοστούν. Αυτές οι αλλαγές συνεπάγονται και σημαντικές μεταβολές ισχύος (transfer of power) και εμπεριέχουν τον κίνδυνο πολιτικής και κοινωνικής αστάθειας. Μακροπρόθεσμα, πιστεύω ότι το εργατικό δυναμικό θα προσαρμοστεί. Οι προηγούμενες βιομηχανικές επαναστάσεις δημιουργήσαν μια ανάλογη εξέλιξη, προκαλώντας μια βαθιά βραχυπρόθεσμη αναστάτωση στο εργατικό δυναμικό, με την οικονομική και προσωπική απόγνωση που υπέστησαν τόσοι πολλοί. Αλλά στην αψίδα της ιστορίας, οι εργαζόμενοι συνολικά απολαμβάνουν, κατά πολύ, καλύτερες συνθήκες εργασίας τώρα απ’ ότι πριν 250 χρόνια, ακόμη και εάν πολλές από τις ειδικότητες εκείνης της εποχής έχουν εξαφανιστεί και αν πολλά από τα επαγγέλματα που υπάρχουν σήμερα, δεν θα μπορούσαν να είχαν προβλεφθεί τότε. Νομίζω όμως ότι με την βιομηχανική επανάσταση που ζούμε, υπάρχει ένα πραγματικό ερώτημα εάν η τεχνολογία θα καταστρέψει μακροπρόθεσμα πολύ περισσότερες θέσεις εργασίας από αυτές που θα δημιουργήσει, με δυνητικό αποτέλεσμα τον σχηματισμό μιας σημαντικής παγκόσμιας μη εργαζόμενης κοινωνικής τάξης.
Όσον αφορά τις ανθρώπινες σχέσεις, ο κύριος κίνδυνος που βλέπω είναι αυτός της ανθρώπινης απομόνωσης καθώς η τεχνητή νοημοσύνη γίνεται όλο και πιο ικανή να μιμείται και να αναπαράγει την ανθρώπινη συμπεριφορά. Μπορεί εύκολα κανείς να φανταστεί πολλούς ανθρώπους να βρίσκουν ψυχαγωγία, φιλία, και παρηγοριά με μια «παρέα» εικονικών ψηφιακών φίλων ειδικά σχεδιασμένων για να προσελκύσουν την ατομική προσωπικότητά του καθενός, και να χάνουν σιγά σιγά την επαφή με την ανθρώπινη κοινωνία. Αυτός ο κίνδυνος μπορεί να είναι χαμηλός για όσους από εμάς μεγαλώσαμε χωρίς τεχνητή νοημοσύνη στη ζωή μας. Αλλά για τα μικρά παιδιά του σήμερα και του αύριο, τους ενήλικες της δεκαετίας του 2050 και του 2100 και του 2200, αυτός ο κίνδυνος μου φαίνεται πολύ υψηλότερος. Ένας συνακόλουθος κίνδυνος είναι η διάσπαση της κοινωνίας σε χιλιάδες η δεκάδες χιλιάδες εσωστρεφείς ψηφιακές κοινωνικές μικρό-ομάδες με τις δικές τους μικρό-διαλέκτους και τα δικά τους μικρό-ήθη και έθιμα.
Γιώργος Αλεξάκης