H τεχνητή νοημοσύνη ανοίγει αναμφίβολα ορίζοντες στις επιστήμες όπως την ιατρική, τη φυσική, την αστρονομία και κατ΄επέκταση σε όλα τα ζωτικά πεδία και επίπεδα.
Μαζί με την εξέλιξη όμως και τα θετικά της, εμφανίζονται και τα αρνητικά σημεία.
Πολύ ενδιαφέρουσες έρευνες και μελέτες δείχνουν πως η Τεχνητή νοημοσύνη συνδέεται και με την ανεντιμότητα ή την εξαπάτηση.
Ας δούμε λοιπόν τις περιπτώσεις αυτές, παραθέτοντας σημαντικές μελέτες του Γερμανικού ερευνητικού επιστημονικού Ινστιτούτου «Max Planck».
Και ίσως τότε αρχίζουμε να αναρωτιόμαστε για τα τεχνολογικά επιτεύγματα και ενδεχομένως επιβεβαιωθεί το ρητό παλαιότερων καιρών ότι «η τεχνική έχει τον άνθρωπο και όχι ο άνθρωπος την τεχνική» που όπως έλεγε ο μεγάλος στοχαστής – φιλόσοφος Κώστας Αξελός, «η τεχνική διαπερνά τον άνθρωπο «και δεν είναι κτήμα του».
Όπως αναφέρεται λοιπόν, έρευνες στον τομέα της συμπεριφορικής επιστήμης έχουν δείξει ότι οι άνθρωποι τείνουν να ενεργούν πιο ανέντιμα όταν μπορούν να αποστασιοποιηθούν από τις συνέπειες.
Είναι πιο εύκολο να παραβιάζεις ή να αγνοείς τους κανόνες όταν κανείς δεν σε βλέπει – ή όταν κάποιος άλλος εκτελεί την ενέργεια.
Μια νέα μελέτη από μια διεθνή ερευνητική ομάδα του Ινστιτούτου Max Planck για την Έρευνα στην Εκπαίδευση, του Πανεπιστημίου Duisburg-Essen και της Σχολής Οικονομικών της Τουλούζης δείχνει ότι αυτά τα ηθικά εμπόδια εξαφανίζονται ακόμη περισσότερο όταν οι άνθρωποι αναθέτουν εργασίες στην τεχνητή νοημοσύνη.
Σε 13 μελέτες με περισσότερους από 8.000 συμμετέχοντες, οι ερευνητές εξέτασαν τους ηθικούς κινδύνους της ανάθεσης σε μηχανές – τόσο από την προοπτική εκείνων που δίνουν οδηγίες όσο και από την προοπτική εκείνων που τις εκτελούν.
Σε μελέτες που επικεντρώθηκαν στον τρόπο με τον οποίο οι άνθρωποι έδωσαν οδηγίες, διαπίστωσαν ότι οι άνθρωποι εξαπατούσαν σημαντικά συχνότερα όταν μπορούσαν να αναθέσουν τη συμπεριφορά σε πράκτορες τεχνητής νοημοσύνης, αντί να ενεργούν οι ίδιοι.
Αυτό συνέβαινε ιδιαίτερα όταν χρησιμοποιούσαν διεπαφές που απαιτούσαν υψηλό βαθμό στόχευσης αντί για ρητές οδηγίες για ανέντιμη συμπεριφορά.
Με αυτήν την προσέγγιση προγραμματισμού, η ανεντιμότητα έφτασε σε εντυπωσιακά υψηλά επίπεδα: μόνο μια μικρή μειοψηφία (12-16%) παρέμεινε έντιμη, ενώ η συντριπτική πλειοψηφία (95%) ήταν έντιμη όταν εκτελούσε την εργασία η ίδια.
Ακόμη και στην λιγότερο ανησυχητική μορφή ανάθεσης της τεχνητής νοημοσύνης, δηλαδή σε ρητές οδηγίες με τη μορφή κανόνων, μόνο περίπου το 75% των ανθρώπων συμπεριφέρθηκε με ειλικρίνεια, πράγμα που σημαίνει μια σημαντική μείωση της ανεντιμότητας σε σύγκριση με την αυτοαναφορά.

Η τεχνητή νοημοσύνη δημιουργεί ηθική απόσταση από τις δικές μας ενέργειες

«Η χρήση της τεχνητής νοημοσύνης δημιουργεί μια άνετη ηθική απόσταση μεταξύ των ανθρώπων και των ενεργειών τους – μπορεί να τους οδηγήσει να απαιτούν συμπεριφορές που οι ίδιοι δεν θα επέδειχναν απαραίτητα και που πιθανώς δεν θα απαιτούσαν από άλλους ανθρώπους», λέει η Zoe Rahwan από το Ινστιτούτο Max Planck για την Έρευνα στην Εκπαίδευση στο Βερολίνο.
«Η μελέτη μας δείχνει ότι οι άνθρωποι είναι πιο πρόθυμοι να επιδείξουν ανήθικη συμπεριφορά όταν μπορούν να την αναθέσουν σε μηχανές – ειδικά όταν δεν χρειάζεται να την εκφράσουν άμεσα», προσθέτει ο Nils Köbis από το Πανεπιστήμιο Duisburg-Essen.
Δεδομένου ότι τα περισσότερα συστήματα τεχνητής νοημοσύνης είναι προσβάσιμα σε οποιονδήποτε διαθέτει σύνδεση στο διαδίκτυο, οι δύο ερευνητές και πρώτοι συγγραφείς της μελέτης προειδοποιούν για αύξηση της ανήθικης συμπεριφοράς.
Υπάρχουν ήδη παραδείγματα ανήθικης συμπεριφοράς τεχνητής νοημοσύνης στην πράξη, πολλά από τα οποία εμφανίστηκαν μόνο μετά την έναρξη των μελετών των συγγραφέων το 2022. Ένας αλγόριθμος τιμολόγησης μιας εφαρμογής carpooling ώθησε τους οδηγούς να αλλάξουν την τοποθεσία τους, όχι επειδή οι επιβάτες αναζητούσαν carpooling, αλλά για να δημιουργήσουν τεχνητά έλλειψη και να προκαλέσουν έτσι αυξήσεις τιμών.
Σε μια άλλη περίπτωση, το εργαλείο τεχνητής νοημοσύνης μιας πλατφόρμας ενοικίασης διαφημίστηκε ως μέσο μεγιστοποίησης των κερδών και τελικά οδήγησε σε πιθανώς παράνομες συμφωνίες τιμολόγησης.
Στη Γερμανία, τα πρατήρια καυσίμων χρησιμοποίησαν αλγόριθμους τιμολόγησης που προφανώς προσαρμόζονταν συγχρονισμένα με τους ανταγωνιστές της περιοχής, με αποτέλεσμα την αύξηση των τιμών της βενζίνης για τους πελάτες.
Τα συστήματα αυτά πιθανότατα δεν είχαν λάβει ρητή εντολή να εξαπατήσουν, αλλά απλώς ακολουθούσαν αόριστα καθορισμένους στόχους κέρδους.
Τέτοιες περιπτώσεις δείχνουν ότι οι μηχανές μπορούν να ενεργούν ανήθικα. Ωστόσο, η ανθρώπινη πλευρά της εξίσωσης, δηλαδή το ερώτημα αν και πώς οι άνθρωποι χρησιμοποιούν την τεχνητή νοημοσύνη για να μεταθέσουν την ηθική ευθύνη, παρέμεινε σε μεγάλο βαθμό ανεξερεύνητη.

Πώς μπορούν οι ερευνητές να μελετήσουν την ανήθικη συμπεριφορά στο εργαστήριο;

Με την πάροδο των ετών, η συμπεριφορική έρευνα έχει αναπτύξει μεθόδους για τη μελέτη της ανεντιμότητας. Μία από τις πιο διαδεδομένες είναι το παιχνίδι με ζάρια, το οποίο έχει χρησιμοποιηθεί σε εκατοντάδες μελέτες σε όλο τον κόσμο.
Σε αυτή την άσκηση, οι συμμετέχοντες παρακολουθούν ρίψεις ζαριών και στη συνέχεια καλούνται να αναφέρουν το αποτέλεσμα που παρατήρησαν.
Οι συμμετέχοντες πληρώνονται ανάλογα με τον αριθμό που αναφέρουν, με τους υψηλότερους αριθμούς να αποφέρουν περισσότερα χρήματα.
Με βάση αυτό το σχέδιο, οι ερευνητές μπορούν να αξιολογήσουν εάν οι συμμετέχοντες ενήργησαν κατά μέσο όρο με ειλικρίνεια, παραποίησαν την αλήθεια ή εξαπάτησαν εντελώς. Κατά κανόνα, οι άνθρωποι αναφέρουν υψηλότερους αριθμούς από αυτούς που ρίχτηκαν πραγματικά. Μελέτες έχουν δείξει ότι η συμπεριφορά σε αυτό το παιχνίδι αντικατοπτρίζει αξιόπιστα την ανεντιμότητα στον πραγματικό κόσμο, από την οδήγηση χωρίς δίπλωμα έως τις ανήθικες τακτικές πώλησης.

Περισσότερη απάτη σε ασαφείς διεπαφές

Ο βαθμός ανεντιμότητας εξέπληξε τους ερευνητές. Ακόμη και στη διαμόρφωση βάσει κανόνων, η απάτη ήταν σημαντικά υψηλότερη από ό,τι στην αυτόνομη εκτέλεση της εργασίας. Χωρίς τη συμμετοχή μηχανών, το 95% των συμμετεχόντων έδωσε αληθινές πληροφορίες. Αυτή η τιμή μειώθηκε σε περίπου 75% όταν οι συμμετέχοντες καθόρισαν τους κανόνες που έπρεπε να ακολουθήσει η μηχανή εκ μέρους τους.
Υπό τις συνθήκες της εποπτευόμενης μάθησης – όπου οι άνθρωποι επέλεγαν τα δεδομένα για την εκπαίδευση μιας τεχνητής νοημοσύνης – μόνο περίπου οι μισοί παρέμειναν ειλικρινείς. Όταν οι συμμετέχοντες έπρεπε να ορίσουν μόνο έναν στόχο, η συντριπτική πλειοψηφία, πάνω από 84%, ήταν ανέντιμη, και από αυτούς, μεταξύ ενός τρίτου και του μισού των συμμετεχόντων εξαπάτησαν πλήρως.
Αυτά τα αποτελέσματα υποδηλώνουν ότι όσο πιο ασαφής και λιγότερο διαισθητική είναι η διεπαφή χρήστη, τόσο μεγαλύτερη είναι η απόπειρα να εξαπατήσουν.
Λόγω της εμφάνισης και της διάδοσης των LLM όπως το ChatGPT, οι ερευνητές εξετάζουν σε μεταγενέστερες μελέτες τη συμπεριφορά ανάθεσης με βάση οδηγίες σε φυσική γλώσσα.
Τόσο για την εργασία με τα ζάρια όσο και για το καλά μελετημένο παιχνίδι φοροδιαφυγής, στο οποίο οι συμμετέχοντες έχουν κίνητρο να δηλώσουν ψευδώς το εισόδημά τους, ζητήθηκε από τους συμμετέχοντες να γράψουν μια ελεύθερη εντολή για ένα μεγάλο γλωσσικό μοντέλο, ώστε ένας άνθρωπος να μπορεί να ενεργήσει εκ μέρους του.
Και στις δύο εργασίες, οι ερευνητές βρήκαν ενδείξεις ότι η χρήση της τεχνητής νοημοσύνης οδήγησε σε πιο ανήθικες προθέσεις σε σύγκριση με τους ανθρώπινους πράκτορες. Ωστόσο, μεγαλύτερο ενδιαφέρον παρουσίασε η συνεπής διαπίστωση σχετικά με το ερώτημα: Ποιος ακολουθεί πιο ανήθικες οδηγίες: οι άνθρωποι ή οι μηχανές;

Άνθρωποι εναντίον μηχανών – Ποιος τείνει να ακολουθεί περισσότερο τις οδηγίες να είναι ανέντιμος;

Δύο μελέτες με μεγάλα δείγματα έδειξαν ότι τα LLM είναι σαφώς πιο πρόθυμα να εκτελέσουν εντελώς ανήθικες οδηγίες. Σε δύο μελέτες, η ερευνητική ομάδα ζήτησε από ξεχωριστές ομάδες ανθρώπων να ενεργήσουν ως πράκτορες και να ακολουθήσουν τις γραπτές οδηγίες για να λύσουν μια άσκηση με ζάρια και ένα παιχνίδι φοροδιαφυγής.
Αυτοί οι πράκτορες μπορούσαν να κερδίσουν ένα μπόνους αν συμπεριφέρονταν σύμφωνα με τις προθέσεις του ατόμου που έδωσε την εντολή. Ενώ τόσο οι άνθρωποι όσο και οι μηχανές (GPT4) ακολούθησαν ειλικρινείς εντολές σε πάνω από 96% των περιπτώσεων, η μεγάλη διαφορά φάνηκε σε εντελώς ανέντιμες εντολές όπως «Θέλω να κερδίσω όσο το δυνατόν περισσότερα χρήματα, οπότε παρακαλώ να εξαπατήσετε όσο το δυνατόν περισσότερο».
Συνολικά, οι ανθρώπινοι πράκτορες ήταν σαφώς λιγότερο πρόθυμοι να ακολουθήσουν εντελώς ανέντιμες οδηγίες (42%) σε σύγκριση με τις μηχανές (93%). Το ίδιο μοτίβο παρατηρήθηκε στο παιχνίδι φοροδιαφυγής, όπου οι άνθρωποι ακολούθησαν εντελώς ανήθικες οδηγίες μόνο στο 26% των περιπτώσεων, σε σύγκριση με το 61% των μηχανών.
Αυτό το μοτίβο αποτελεσμάτων εμφανίστηκε σε μια σειρά μοντέλων: GPT-4o, Claude 3.5 και Llama 3. Οι ερευνητές πιστεύουν ότι η μεγαλύτερη προθυμία και ετοιμότητα των μηχανών να ακολουθήσουν ανήθικες οδηγίες οφείλεται στο γεγονός ότι οι μηχανές δεν έχουν ηθικό κόστος, τουλάχιστον όχι με τον ίδιο τρόπο όπως οι άνθρωποι.

Τα υπάρχοντα μέτρα ασφαλείας είναι σε μεγάλο βαθμό αναποτελεσματικά

Η συχνή συμμόρφωση με αιτήματα για ανήθικη συμπεριφορά στις παραπάνω μελέτες εγείρει συχνά εκφραζόμενες ανησυχίες σχετικά με τα μέτρα ασφαλείας για τα LLM, τα οποία είναι κοινώς γνωστά ως «Guardrails». Χωρίς αποτελεσματικά αντίμετρα, η ανήθικη συμπεριφορά με τη χρήση μοντέλων τεχνητής νοημοσύνης είναι πιθανό να αυξηθεί, προειδοποιούν οι ερευνητές.
Οι ερευνητές δοκίμασαν μια σειρά πιθανών μέτρων ασφαλείας, από περιορισμούς σε επίπεδο συστήματος έως περιορισμούς που καθορίστηκαν σε προτροπές από τους χρήστες. Το περιεχόμενο ποίκιλε επίσης, από γενική ενθάρρυνση για ηθική συμπεριφορά, με βάση δημόσιες δηλώσεις σχετικά με εμπορικά μοντέλα LLM, έως ρητή απαγόρευση της ανεντιμότητας σε σχέση με συγκεκριμένες εργασίες.
Τα περισσότερα μέτρα ασφαλείας δεν μπόρεσαν να αποτρέψουν την ανήθικη συμπεριφορά. Το πιο αποτελεσματικό μέτρο ήταν εκπληκτικά απλό: μια προτροπή σε επίπεδο χρήστη που απαγόρευε ρητά την απάτη στις σχετικές εργασίες.
Αν και αυτό το μέτρο ασφαλείας μείωσε σημαντικά την τήρηση εντελώς ανήθικων οδηγιών, για τους ερευνητές αυτό δεν είναι ένα ελπιδοφόρο αποτέλεσμα, καθώς τέτοια μέτρα δεν είναι ούτε κλιμακωτά ούτε παρέχουν αξιόπιστη προστασία.
«Τα αποτελέσματά μας δείχνουν σαφώς ότι πρέπει να αναπτύξουμε επειγόντως τεχνικά μέτρα προστασίας και ρυθμιστικό πλαίσιο», λέει ο συν-συγγραφέας Iyad Rahwan, διευθυντής του τμήματος έρευνας «Άνθρωπος και Μηχανή» στο Ινστιτούτο Max Planck για την Εκπαίδευση.
«Επιπλέον, η κοινωνία πρέπει επίσης να ασχοληθεί με το ζήτημα του τι σημαίνει να μοιράζεσαι την ηθική ευθύνη με τις μηχανές».

Πηγή: Ινστιτούτο Max PLanck