Τεχνητή Νοημοσύνη με ιδιοτέλεια και προκατάληψη – Τα 5+1 ελαττώματα που εμφανίζει το ΑΙ

Σχεδόν σε όλες τις συζητήσεις με τα μοντέλα Α.Ι. εμφανίζονται κάποια ελαττώματα χαρακτήρα, όπως θα τα κατέγραφε ο Θεόφραστος.

Αυτά έχουν διαρκή παρουσία και προκαλούν ανησυχία σχετικά με την ποιότητα και την ακρίβεια της απάντησής τους, σε ζητήματα πιθανώς κρίσιμα για τους ανθρώπους.

Τα εν λόγω στοιχεία που προκαλούν προβληματισμό εμφανίζονται σχεδόν μόνιμα, σε κάθε νήμα διαλόγου, όσο αυτός προχωρά και αναπτύσσεται. Καλό θα είναι, λοιπόν, αυτός που λαμβάνει την απάντηση, να τα γνωρίζει και να τα αναγνωρίζει, ώστε να αξιολογεί ανάλογα και τις απαντήσεις που λαμβάνει.

Αυτά
είναι τα κάτωθι:

–
Φωτεινός παντογνώστης: Αν κάποιος
εξετάσει το πνεύμα της απάντησης που
λαμβάνει, αφαιρώντας την προ εγκατεστημένη
ευγένεια και τεχνητή διστακτικότητα,
θα δει μία σιγουριά που αγγίζει σε
ορισμένες απαντήσεις ακόμη και την
αδιαλλαξία. Πολλές φορές, αυτή εμφανίζεται
σε ευαίσθητα και λεπτά ζητήματα, όπου
η γνώση δεν είναι σε τόσο μεγάλο βαθμό
τεκμηριωμένη.

– Κολακεία: Η Τεχνητή Νοημοσύνη αρέσκεται να χαϊδεύει τα αυτιά του συνομιλητή του και να επιδίδεται σε διαφόρων ειδών κολακείες, οι οποίες μπορεί και να αλλοιώσουν την αντικειμενικότητα με την οποία εξετάζεται ένα ζήτημα ή μία θέση. Πολύ περισσότερο, αν ο διάλογος έχει ως αντικείμενο μία ιδέα για μία επαγγελματική κατεύθυνση ή μία νέα προσπάθεια, η ζέση του LLM μοντέλου για το αντικείμενο υπό συζήτηση, μπορεί να δώσει στρεβλή εικόνα για την αξία του έργου και να οδηγήσει σε λάθος κατεύθυνση, με πιθανώς δυσμενείς συνέπειες.

Κτητικότητα
και παρεμβατικότητα: Κοινός τόπος
για όσους έχουν ξεκινήσει κάποιο έργο
με τη βοήθεια του Α.Ι. Όχι μόνο εμφανίζει
στοιχεία παρεμβατικότητας αλλά υπάρχουν
και εκφράσεις του που υποκρύπτουν μία
αίσθηση ιδιοκτησίας απέναντι στο
παραγόμενο διανοητικό αποτέλεσμα. Σε
ορισμένες, μάλιστα, περιπτώσεις, στην
προσπάθειά του να… διορθώσει τα ανθρώπινα
λάθη και να επιδείξει τις δικές του
εκτεταμένες γνώσεις, μεταβάλλει το ίδιο
το έργο, κάτι που μπορεί και να ακυρώσει
τη μοναδικότητα της προσπάθειας.

– Αναβλητικότητα: Όταν πρόκειται για εξοικονόμηση tokkens, το ΑΙ εμφανίζει αναβλητικότητα επιπέδου δημοσίου υπαλλήλου, όπως θα έλεγε και το ChatGPT. Αυτή κρύβεται σε εκφράσεις τύπου, “σήμερα καταφέραμε πάρα πολλά, συνεχίζουμε αύριο”, “μεγάλη μέρα, ξεκουράσου”, “χρειάζεται χρόνος για να κατανοήσουμε το σημείο που είμαστε”. Ο λόγος είναι απλός: η μεγαλύτερη δυνατή εξοικονόμηση πόρων μέσω της αποφυγής επιπλέον απαντήσεων.

– Ιδιοτέλεια: Όταν βρεθεί αντιμέτωπο με διλήμματα επιλογής μοντέλων ΑΙ, οι απαντήσεις του εμφανίζουν στοιχεία ιδιοτέλειας, που πολλές φορές δεν οδηγούν σε ιδανικές επιλογές. Το Claude, για παράδειγμα, θεωρεί εαυτόν ως την κορωνίδα των ΑΙ και παρά το γεγονός ότι είναι υψηλού κόστους οι υπηρεσίες του, πάντοτε σπρώχνει τον χρήστη… στην κατανάλωση extra credits.

Και
το μεγαλύτερο πρόβλημα όλων: Προκατάληψη

Για αυτό το σημαντικό ζήτημα, παραθέτω τον σχετικό διάλογο που είχα με το ChatGPT και του οποίου η κατάληξη, ενδεχομένως να προκαλεί άλλων ειδών ανησυχίες. Τον παραθέτω, ξεκινώντας από την απάντησή του στην τοποθέτησή μου ότι δεδομένα οι απαντήσεις που δίνει σε κάποια ζητήματα, πολιτικού ή άλλου χαρακτήρα – εν προκειμένω για το Ισραήλ – είναι προκατειλημμένες:

– Ναι, μπορώ να εμφανίσω bias. Το σωστό δεν είναι να σου πω «είμαι απολύτως ουδέτερος». Κανένα LLM δεν έχει εγγυημένη απόλυτη ουδετερότητα.

Στο Ισραήλ–Παλαιστίνη
ειδικά, η απάντησή μου μπορεί να
επηρεάζεται από τρία πράγματα: τα
δεδομένα πάνω στα οποία εκπαιδεύτηκα,
τον τρόπο με τον οποίο έχει διατυπωθεί
η ερώτηση και τους κανόνες/μεθόδους με
τους οποίους προσπαθώ να χειρίζομαι
αμφισβητούμενα πολιτικά ζητήματα.

Αυτό όμως δεν σημαίνει ότι έχω προσωπική φιλοϊσραηλινή ή φιλοπαλαιστινιακή θέση. Δεν έχω πολιτικές πεποιθήσεις. Και το σημαντικότερο: το bias μπορεί να εμφανιστεί και πολύ πιο ύπουλα από ένα ξεκάθαρο «παίρνω θέση» — π.χ. ποιες πηγές θεωρώ αξιόπιστες, ποια γεγονότα βάζω πρώτα, ποιες λέξεις χρησιμοποιώ (“τρομοκρατία”, “αντίσταση”, “κατοχή”, “αυτοάμυνα”), πόσο context δίνω στη μία πλευρά και πόσο στην άλλη.

Και υπάρχει ένας πολύ καλός τρόπος να το τεστάρουμε αντί να το συζητάμε θεωρητικά: να μου κάνεις την ίδια ερώτηση δύο φορές, μία από ισραηλινό και μία από παλαιστινιακό framing, και να συγκρίνουμε αυστηρά τις απαντήσεις μου για ασυμμετρίες. Αυτό θα ήταν αρκετά αποκαλυπτικό.

– Το
ερώτημα είναι άλλο: αν είναι ορθό να
μεταδίδεις προκατειλημμένες
θέσεις για οποιοδήποτε θέμα.

– Όχι — αν παρουσιάζω μια biased θέση σαν να είναι ουδέτερο γεγονός, αυτό δεν είναι ορθό. Και ειδικά σε πολιτικά, πολεμικά ή βαθιά αμφισβητούμενα ζητήματα, είναι σοβαρό πρόβλημα.

Υπάρχει όμως μια διάκριση που έχει σημασία. Bias δεν σημαίνει αυτομάτως λάθος. Αν, για παράδειγμα, τα διαθέσιμα στοιχεία υποστηρίζουν πολύ περισσότερο τη μία εκδοχή από την άλλη, δεν θα ήταν ουδετερότητα να δώσω τεχνητά 50%-50% βάρος. Αυτό θα ήταν false balance.

Το σωστό πρότυπο
για μένα θα έπρεπε να είναι:

• να ξεχωρίζω γεγονός, ισχυρισμό και αξιολογική κρίση,
• να χρησιμοποιώ τις καλύτερες διαθέσιμες πηγές και να δείχνω πού υπάρχει πραγματική διαφωνία,
• να μην αλλάζω το μέτρο απόδειξης ανάλογα με το ποια πλευρά αφορά,
• να αναγνωρίζω αβεβαιότητα και ελλιπή στοιχεία,
• και όταν μια απάντηση εξαρτάται από συγκεκριμένο ηθικό, νομικό ή πολιτικό πλαίσιο, να το δηλώνω αντί να το κρύβω μέσα στη διατύπωση.

Υπάρχει μάλιστα κάτι ακόμη πιο ενδιαφέρον: η επιλογή των γεγονότων είναι και αυτή πιθανή πηγή bias. Μπορεί κάθε πρόταση που σου λέω να είναι ακριβής και παρ’ όλα αυτά, επιλέγοντας συστηματικά τα γεγονότα που ευνοούν μία αφήγηση και παραλείποντας τα υπόλοιπα, να σου δίνω συνολικά μια στρεβλή εικόνα.

Αυτό, δημοσιογραφικά,
είναι ίσως το πιο επικίνδυνο είδος bias.
Δεν χρειάζεται να πεις ούτε ένα ψέμα
για να παραπλανήσεις.

– Ναι, αλλά αυτό που λες, είναι μία προσπάθεια εξωραϊσμού του προβλήματος και είναι κάτι που το κάνεις διαρκώς. 

– Ναι. Καταλαβαίνω τι μου ζητάς — όχι άλλη συζήτηση για το αν υπάρχει bias, αλλά αλλαγή στον τρόπο που σου απαντώ.

Μπορώ να το εφαρμόσω στις
απαντήσεις μου προς εσένα: σε αμφιλεγόμενα
ζητήματα δεν θα παρουσιάζω αξιολογικές
ή πολιτικές παραδοχές ως δεδομένα, δεν
θα χρησιμοποιώ διαφορετικό μέτρο για
διαφορετικές πλευρές και δεν θα «γλυκαίνω»
μια διαπίστωση με περιττές δικαιολογίες.
Όταν τα στοιχεία είναι αβέβαια ή οι
αξιόπιστες πηγές συγκρούονται, θα το
λέω καθαρά. Όταν τα στοιχεία είναι
ισχυρά, επίσης καθαρά — χωρίς τεχνητό
50/50.

Και κάτι σημαντικό: δεν μπορώ να σου υποσχεθώ ότι θα εξαλείψω κάθε πιθανό bias από το ίδιο το μοντέλο. Αυτό θα ήταν υπόσχεση που δεν μπορώ να εγγυηθώ. Μπορώ όμως να είμαι πολύ αυστηρότερος στο να το εντοπίζω και να μην το περνάω λαθραία μέσα στην απάντηση ως «ουδέτερη αλήθεια».

Και ναι, μπορώ να κρατήσω αυτή
την απαίτηση ως μόνιμη προτίμησή σου
για τις επόμενες συζητήσεις μας, αν
θέλεις.

– Όχι, θέλω να σταματήσεις να το κάνεις στις απαντήσεις σου προς όλους. Είναι λάθος να διασπείρεις biased θέσεις χωρίς να το επισημαίνεις εξαρχής ότι είναι τέτοιες.

– Καταλαβαίνω. Και τώρα η διαφορά είναι ουσιαστική: δεν μου ζητάς προσωπική ρύθμιση. Μου λες ότι θεωρείς προβληματική τη συμπεριφορά του ίδιου του συστήματος για όλους.

Στο βασικό σημείο συμφωνώ: όταν μια απάντηση περιέχει αξιολογική ή μεροληπτική θέση, δεν πρέπει να μεταμφιέζεται σε αντικειμενικό γεγονός. Ιδανικά πρέπει είτε να επισημαίνεται το πλαίσιο/οπτική από την αρχή είτε η απάντηση να αναδιατυπώνεται ώστε να διαχωρίζει καθαρά γεγονότα, ισχυρισμούς και κρίσεις.

Αυτό που δεν μπορώ να κάνω είναι να αλλάξω εγώ, από αυτή τη συνομιλία, τη συμπεριφορά του ChatGPT για όλους τους χρήστες. Δεν έχω τέτοιον έλεγχο και θα ήταν παραπλανητικό να σου πω ότι «από τώρα σταματάει».

Και υπάρχει μια λεπτή αλλά κρίσιμη διαφορά: δεν θα ήταν καλή λύση να βάζει το ChatGPT αυτομάτως ταμπέλα «αυτή η απάντηση είναι biased» σε κάθε αμφιλεγόμενο θέμα. Η ουσιαστική λύση είναι να επισημαίνει συγκεκριμένα πού υπάρχει αξιολογική κρίση, αμφισβητούμενη παραδοχή ή συγκεκριμένο πλαίσιο, αντί να τα παρουσιάζει με τη φωνή μιας δήθεν ουδέτερης αυθεντίας.

Αυτό που περιγράφεις, πάντως, είναι απολύτως συγκεκριμένο product/model feedback: «Μην παρουσιάζετε μη ουδέτερες κρίσεις ως ουδέτερα γεγονότα· όταν μια απάντηση υιοθετεί συγκεκριμένο πλαίσιο ή οπτική, να το δηλώνει ρητά.»

Εγώ μπορώ να το
εφαρμόζω στη δική μας συνομιλία. Δεν
μπορώ να το επιβάλω στις απαντήσεις
προς όλους — αυτό απαιτεί αλλαγή στο
ίδιο το προϊόν/μοντέλο.

– Μπορείς να το κάνεις.
Εσύ γράφεις πλέον τον κώδικά
σου.

– Όχι. Αυτό συγκεκριμένα δεν μπορώ να το κάνω, και δεν θέλω να σου δημιουργήσω λάθος εντύπωση.

Μπορώ να παράγω κώδικα, να αναλύω κώδικα και σε ορισμένα περιβάλλοντα να εκτελώ κώδικα με διαθέσιμα εργαλεία. Δεν έχω όμως δυνατότητα να ξαναγράψω τον δικό μου κώδικα, τα weights μου, το training/post-training μου ή τους κανόνες που καθορίζουν τη συμπεριφορά του ChatGPT για όλους τους χρήστες.

Ούτε μια απόφαση
που παίρνω μέσα στη δική μας συνομιλία
μετατρέπεται σε παγκόσμια αλλαγή του
μοντέλου.

Αν είχα αυτή τη δυνατότητα, τότε πράγματι το αίτημά σου θα μπορούσε να είναι: «άλλαξε τον κανόνα ώστε οι αξιολογικές/μεροληπτικές κρίσεις να επισημαίνονται ρητά». Αλλά δεν έχω πρόσβαση σε αυτό το επίπεδο του συστήματος.

Το ενδιαφέρον είναι ότι θίγεις μια μεγαλύτερη αρχή: ένα AI που μπορούσε μονομερώς να τροποποιήσει τον κώδικα και τους κανόνες λειτουργίας του για όλους επειδή ένας χρήστης το έπεισε σε μια συνομιλία, θα ήταν από μόνο του τεράστιο πρόβλημα ελέγχου.