Στο μήνυμά του για την 57η Παγκόσμια Ημέρα Ειρήνης, ο Πάπας Φραγκίσκος προβληματίζεται και μελετά τον αντίκτυπο της Τεχνητής Νοημοσύνης στην παγκόσμια ειρήνη και καλεί τη διεθνή κοινότητα να υιοθετήσει μια δεσμευτική διεθνή συνθήκη που θα ρυθμίζει την ανάπτυξη και τη χρήση της.
Οι νέες τεχνολογίες πρέπει πάντα να κατευθύνονται «στην επιδίωξη της ειρήνης και του κοινού καλού, στην υπηρεσία της ολοκληρωμένης ανάπτυξης των ανθρώπων και των κοινοτήτων».
Στο ετήσιο μήνυμά του για την Παγκόσμια Ημέρα Ειρήνης, ο Πάπας Φραγκίσκος προτρέπει τους πολιτικούς ηγέτες να διασφαλίσουν ότι η πρόοδος στην ανάπτυξη μορφών τεχνητής νοημοσύνης «θα υπηρετήσει εν τέλει την υπόθεση της ανθρώπινης αδελφοσύνης και της ειρήνης».
Το μήνυμα, αφιερωμένο στο θέμα «Τεχνητή νοημοσύνη και ειρήνη», δόθηκε στη δημοσιότητα από το Γραφείο Τύπου της Αγίας Έδρας, την Πέμπτη 14 Δεκεμβρίου ενόψει της 57ης Παγκόσμιας Ημέρας Ειρήνης, την 1η Ιανουαρίου 2024.
Η εγγενής αμφισημία της τεχνοεπιστημονικής προόδου
Στο μήνυμά του, ο Πάπας Φραγκίσκος εφιστά την προσοχή στην «ηθική διάσταση» αυτών των νέων τεχνολογιών που φέρνουν επανάσταση στην ανθρωπότητα σε όλους τους τομείς της ζωής, τονίζοντας την αμφισημία που ενυπάρχει σε κάθε πρόοδο της επιστήμης και της τεχνολογίας.
Από τη μία πλευρά, γράφει, μπορεί να οδηγήσει στη βελτίωση της ανθρωπότητας και στη μεταμόρφωση του κόσμου, εάν «συμβάλλει σε μια μεγαλύτερη τάξη στην ανθρώπινη κοινωνία και σε μεγαλύτερη αδελφική κοινωνία και ελευθερία»
Από την άλλη πλευρά, η τεχνοεπιστημονική πρόοδος, ιδίως στον ψηφιακό τομέα, «θέτει στα χέρια των ανθρώπων ένα ευρύ φάσμα επιλογών, συμπεριλαμβανομένων ορισμένων που μπορεί να θέσουν σε κίνδυνο την επιβίωσή μας και να θέσουν σε κίνδυνο την κοινή μας οικία».
Καμία τεχνολογική καινοτομία δεν είναι «ουδέτερη»
Το μήνυμα υπενθυμίζει ότι καμία επιστημονική έρευνα και τεχνολογική καινοτομία δεν είναι «ουδέτερη»: «Ως πλήρως ανθρώπινες δραστηριότητες, οι κατευθύνσεις που παίρνουν αντανακλούν επιλογές που εξαρτώνται από τις προσωπικές, κοινωνικές και πολιτιστικές αξίες σε κάθε εποχή. Το ίδιο πρέπει να ειπωθεί και για τα αποτελέσματα που παράγουν: ακριβώς ως καρπός των ιδιαίτερων ανθρώπινων τρόπων προσέγγισης του κόσμου γύρω μας, τα τελευταία [τα αποτελέσματα]έχουν πάντα μια ηθική διάσταση, στενά συνδεδεμένη με τις αποφάσεις εκείνων που σχεδιάζουν τους πειραματισμούς τους και κατευθύνουν την παραγωγή τους προς συγκεκριμένους στόχους».
Αυτό ισχύει και για την τεχνητή νοημοσύνη, διότι «ο αντίκτυπος κάθε συσκευής τεχνητής νοημοσύνης – ανεξάρτητα από την τεχνολογία της – δεν εξαρτάται μόνο από τον τεχνικό σχεδιασμό της, αλλά και από τους στόχους και τα συμφέροντα των ιδιοκτητών και των προγραμματιστών της, καθώς και από τις καταστάσεις στις οποίες θα χρησιμοποιηθεί».
Ως εκ τούτου, «δεν μπορούμε να υποθέσουμε εκ των προτέρων ότι η ανάπτυξή της θα συμβάλει ευεργετικά στο μέλλον της ανθρωπότητας και στην ειρήνη μεταξύ των λαών. Αυτό το θετικό αποτέλεσμα θα επιτευχθεί μόνο αν δείξουμε ότι είμαστε ικανοί να ενεργούμε υπεύθυνα και να σεβόμαστε θεμελιώδεις ανθρώπινες αξίες όπως “η ένταξη, η διαφάνεια, η ασφάλεια, η ισότητα, η ιδιωτικότητα και η αξιοπιστία”», γράφει ο Πάπας Φραγκίσκος.
Ηθικά ζητήματα
Εξ ου και η ανάγκη, «να δημιουργηθούν φορείς επιφορτισμένοι με την εξέταση των ηθικών ζητημάτων που ανακύπτουν σε αυτόν τον τομέα και την προστασία των δικαιωμάτων όσων χρησιμοποιούν μορφές τεχνητής νοημοσύνης ή επηρεάζονται από αυτές».
«Έχουμε καθήκον να διευρύνουμε το βλέμμα μας και να κατευθύνουμε την τεχνοεπιστημονική έρευνα προς την επιδίωξη της ειρήνης και του κοινού καλού, στην υπηρεσία της ολοκληρωμένης ανάπτυξης των ανθρώπων και των κοινοτήτων».
«Οι τεχνολογικές εξελίξεις που δεν οδηγούν σε βελτίωση της ποιότητας ζωής όλης της ανθρωπότητας, αλλά αντίθετα επιδεινώνουν τις ανισότητες και τις συγκρούσεις, δεν μπορούν ποτέ να θεωρηθούν πραγματική πρόοδος», λέει ο Πάπας.
Το μήνυμα συνεχίζει υπογραμμίζοντας τις πολλές προκλήσεις που θέτει η τεχνητή νοημοσύνη, οι οποίες είναι «ανθρωπολογικές, εκπαιδευτικές, κοινωνικές και πολιτικές».
Κίνδυνοι για τις δημοκρατικές κοινωνίες
Η ικανότητα ορισμένων συσκευών να παράγουν συνεκτικά κείμενα, για παράδειγμα, «δεν αποτελεί εγγύηση για την αξιοπιστία τους». Αυτό, λέει ο Πάπας, «δημιουργεί σοβαρό πρόβλημα όταν η τεχνητή νοημοσύνη χρησιμοποιείται σε εκστρατείες παραπληροφόρησης που διαδίδουν ψευδείς ειδήσεις και οδηγούν σε αυξανόμενη δυσπιστία απέναντι στα μέσα επικοινωνίας».
Η λανθασμένη χρήση αυτών των τεχνολογιών μπορεί επίσης να έχει άλλες αρνητικές συνέπειες «όπως διακρίσεις, παρεμβάσεις στις εκλογές, την άνοδο μιας κοινωνίας επιτήρησης, τον ψηφιακό αποκλεισμό και την επιδείνωση ενός ατομικισμού που αποσυνδέεται όλο και περισσότερο από την κοινωνία», τα οποία αποτελούν απειλές για την παγκόσμια ειρήνη.
Στη συνέχεια, ο Πάπας Φραγκίσκος προειδοποιεί για τους κινδύνους που εγκυμονεί για τις δημοκρατικές κοινωνίες και την ειρηνική συνύπαρξη το κυρίαρχο τεχνοκρατικό παράδειγμα που βρίσκεται πίσω από την τεχνητή νοημοσύνη και τη λατρεία της απεριόριστης ανθρώπινης δύναμης: «Προτείνοντας να ξεπεράσουμε κάθε όριο μέσω της τεχνολογίας, σε μια εμμονική επιθυμία να ελέγξουμε τα πάντα, κινδυνεύουμε να χάσουμε τον έλεγχο του εαυτού μας».
Οι αλγόριθμοι δεν πρέπει να καθορίζουν τον τρόπο με τον οποίο αντιλαμβανόμαστε τα ανθρώπινα δικαιώματα
Ο Άγιος Πατέρας επιμένει στα «φλέγοντα» ηθικά ζητήματα που θέτει η τεχνητή νοημοσύνη, συμπεριλαμβανομένων των διακρίσεων, της χειραγώγησης ή του κοινωνικού ελέγχου: «Η εξάρτηση από αυτόματες διαδικασίες που κατηγοριοποιούν τα άτομα, για παράδειγμα, με τη διάχυτη χρήση της παρακολούθησης ή την υιοθέτηση συστημάτων κοινωνικής πίστωσης*, θα μπορούσε επίσης να έχει βαθιές επιπτώσεις στον κοινωνικό ιστό, καθιερώνοντας μια κατάταξη μεταξύ των πολιτών».
«Οι αλγόριθμοι δεν πρέπει να επιτραπεί να καθορίσουν τον τρόπο με τον οποίο αντιλαμβανόμαστε τα ανθρώπινα δικαιώματα, να παραμερίσουν τις βασικές ανθρώπινες αξίες της συμπόνιας, του ελέους και της συγχώρεσης», τονίζει ο Πάπας, υπογραμμίζοντας επίσης τον αντίκτυπο των νέων τεχνολογιών στον εργασιακό χώρο.
Οπλοποίηση της τεχνητής νοημοσύνης
Ο Πάπας Φραγκίσκος εκφράζει ιδιαίτερη ανησυχία για την «οπλοποίηση της τεχνητής νοημοσύνης», αναφέροντας συγκεκριμένα τα Θανατηφόρα Αυτόνομα Οπλικά Συστήματα (LAWS), εφιστώντας την προσοχή στον κίνδυνο να καταλήξουν εξελιγμένα όπλα στα χέρια τρομοκρατών.
«Οι πιο προηγμένες τεχνολογικές εφαρμογές δεν πρέπει να χρησιμοποιούνται για να διευκολύνουν τη βίαιη επίλυση των συγκρούσεων, αλλά αντιθέτως για να ανοίξουν το δρόμο για την ειρήνη».
Από τη θετική πλευρά, ο Πάπας Φραγκίσκος σημειώνει ότι η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί για την προώθηση της ολοκληρωμένης ανθρώπινης ανάπτυξης, εισάγοντας «σημαντικές καινοτομίες στη γεωργία, την εκπαίδευση και τον πολιτισμό, ένα βελτιωμένο επίπεδο ζωής για ολόκληρα έθνη και λαούς και την ανάπτυξη της ανθρώπινης αδελφοσύνης και της κοινωνικής φιλίας».
Προκλήσεις για την εκπαίδευση
Το μήνυμα συνεχίζει υπογραμμίζοντας τις προκλήσεις που θέτει η τεχνητή νοημοσύνη στην εκπαίδευση των νέων γενεών που μεγαλώνουν «σε πολιτιστικά περιβάλλοντα που διαπερνά η τεχνολογία».
Στο πλαίσιο αυτό, ο Πάπας επισημαίνει την επείγουσα ανάγκη εκπαίδευσης των νέων στη χρήση της τεχνητής νοημοσύνης. Η εκπαίδευση αυτή, λέει, «θα πρέπει να στοχεύει πάνω απ’ όλα στην προώθηση της κριτικής σκέψης».
Ανάγκη για μια διεθνή συνθήκη για τη ρύθμιση της τεχνητής νοημοσύνης
Ως εκ τούτου, ο Πάπας Φραγκίσκος καλεί την παγκόσμια κοινότητα των εθνών να συνεργαστεί για την υιοθέτηση μιας δεσμευτικής διεθνούς συνθήκης που θα ρυθμίζει την ανάπτυξη και τη χρήση της τεχνητής νοημοσύνης στις πολλές μορφές της: «Η παγκόσμια κλίμακα της τεχνητής νοημοσύνης καθιστά σαφές ότι, παράλληλα με την ευθύνη των κυρίαρχων κρατών να ρυθμίζουν τη χρήση της στο εσωτερικό τους, οι διεθνείς οργανισμοί μπορούν να διαδραματίσουν αποφασιστικό ρόλο στην επίτευξη πολυμερών συμφωνιών και στο συντονισμό της εφαρμογής και της επιβολής τους».
«Είναι η προσευχή μου κατά την έναρξη του νέου έτους» καταλήγει το μήνυμα, «ότι η ταχεία ανάπτυξη των μορφών τεχνητής νοημοσύνης δεν θα αυξήσει τις περιπτώσεις ανισότητας και αδικίας που είναι πολύ παρούσες στον σημερινό κόσμο, αλλά θα συμβάλει στον τερματισμό των πολέμων και των συγκρούσεων και στην ανακούφιση πολλών μορφών πόνου που πλήττουν την ανθρώπινη οικογένειά μας».
* Το σύστημα κοινωνικής πίστωσης είναι η κινέζικης έμπνευσης διαδικασία κατά την οποία καταρτίζεται ένα ενιαίο εθνικό αρχείο για φυσικά και νομικά πρόσωπα βάσει του οποίου αξιολογείται η δραστηριότητά τους. Βάσει της αξιολόγησής τους, τιμωρούνται ή ανταμείβονται (πηγή wikipedia).
ΟΛΟΚΛΗΡΟ ΤΟ ΜΗΝΥΜΑ :
ΒΙΝΤΕΟ ΠΑΡΟΥΣΙΑΣΗΣ:
