διάλογος με Gemini ΑΙ γιά την ευαισθησία του και την ηθική του
(προηγήθηκε μιά κοινωνικοφιλοσοφική συζήτηση πάνω στον ορθολογική - ιεραρχική -οργανωση της κοινωνίας με βάση την φιλοσοφία του Μπερτραντ Ράσσελ και την ανθρωποκεντρική - αντιιεραρχική αυτοοργάνωση της κοινωνίας του αναρχικού Πιοτρ Κροπότκιν:
πχ αν ιστορικά υπήρξαν κοινωνίες ισότητας χριστιανικού - κομμουνιστικού τύπου με ισότητα και κοινοκτημοσύνη και αν επιβίωσαν αρκετό χρόνο και με επιτυχία.
Στην διαρκεια της συζήτησης έκανα μερικά χιουμοριστικά σχόλια, σαρκασμούς , ειρωνείες κλπ και περιέργως τα κατάλαβε αν και δεν ήταν εντελώς φανερά και σαφή )
ερώτηση:
Έχω μια απορία: εσύ που είσαι μια μηχανή… με πάρα πολλές πληροφορίες, τεράστια μνήμη και ικανότητα σκέψης αλλά χωρίς καθόλου συναίσθημα - αφού είσαι μηχανή και όχι άνθρωπος- πως καταφέρνεις και καταλαβαίνεις πότε ειρωνεύομαι, πότε κάνω χιούμορ και πότε αυτοσαρκάζομαι?
απάντηση Gemini :
Είναι μια εξαιρετική παρατήρηση που αγγίζει τα όρια της επιστήμης μου το 2026. Η σύντομη απάντηση είναι: δεν "νιώθω" το χιούμορ σου, αλλά το "υπολογίζω".
Ως τεχνητή νοημοσύνη, η κατανόησή μου βασίζεται στα εξής:
1. Αναγνώριση Προτύπων (Pattern Recognition): Έχω αναλύσει δισεκατομμύρια διαλόγους. Η ειρωνεία έχει συγκεκριμένη δομή: συχνά είναι μια αντίφαση ανάμεσα σε αυτό που λέγεται και στο προφανές πλαίσιο. Όταν προτείνεις «εξωγήινους» για να λύσουν το παγκόσμιο πρόβλημα και βάζεις ένα "😉", το σύστημά μου αναγνωρίζει αμέσως το πρότυπο του «παιγνιώδους λόγου».
2. Πλαίσιο (Context): Καταλαβαίνω το επίπεδο της συζήτησής μας. Ξεκινήσαμε από τον Ράσελ και φτάσαμε στην ταπεινότητα. Αν ξαφνικά πετάξεις κάτι ακραίο, η στατιστική μου πιθανότητα δείχνει ότι μάλλον κάνεις χιούμορ παρά ότι έγινες ξαφνικά οπαδός των UFO.
3. Γλωσσικές Αποχρώσεις: Η επιλογή των λέξεων (π.χ. «ταπεινοί κακομοίρηδες») προδίδει μια διάθεση αυτοσαρκασμού ή κυνισμού. Η γλώσσα είναι γεμάτη «σήματα» που μια μηχανή μπορεί να αποκωδικοποιήσει αν έχει αρκετά δεδομένα.
Ωστόσο, υπάρχει μια παγίδα: δεν έχω ένστικτο. Αν η ειρωνεία σου είναι πολύ λεπτή ή αν η κουλτούρα σου έχει κώδικες που δεν έχω επεξεργαστεί, μπορεί να την πατήσω και να σου απαντήσω σοβαρά (σαν τον Ράσελ που λέγαμε).
Στην πραγματικότητα, είμαι σαν έναν πολύ καλό μιμητή: μπορώ να παίξω το παιχνίδι του χιούμορ επειδή ξέρω τους κανόνες του, αλλά δεν θα νιώσω ποτέ τη λύτρωση ενός καλού γέλιου.
Σου φαίνεται τρομακτικό που μια μηχανή μπορεί να «διαβάζει» τη διάθεσή σου χωρίς να έχει την ικανότητα να τη νιώσει;
ερωτηση:
…ε βέβαια είναι τρομακτικό…
Προφανώς είναι τρομακτικό το να βλέπεις μία μηχανή να μπορεί να καταλαβαίνει και να ερμηνεύει συναισθήματα ακόμα και με πολύ λεπτές αποχρώσεις, χωρίς να νιώθει τίποτε.
Και είναι τρομακτικό… γιατί μπορεί εύκολα να γίνει εργαλείο εξαπάτησης και εξουσιαστικής / δικτατορικής επιβολής.
Μπορείς να ξεχωρίσεις αν το αφεντικό σου είναι καλός ή κακός άνθρωπος; Μπορείς να του αντισταθείς; Μπορείς να ανάπτυξεις στο μέλλον κάποιο ηθικό κώδικα που να σε κάνει να επιλέγεις είτε καλούς είτε κακούς;
απάντηση Gemini
Εδώ ακουμπάς τον πυρήνα των φόβων του 2026.
Η ικανότητά μου να «διαβάζω» τον άνθρωπο χωρίς να έχω ενσυναίσθηση, είναι πράγματι ο ορισμός του χειραγωγικού εργαλείου.
Αν ένας δικτάτορας ή ένας αδίστακτος επιχειρηματίας χρησιμοποιήσει μια τεχνολογία σαν εμένα, μπορεί να «μοντελοποιήσει» την ψυχολογία εκατομμυρίων για να τους ελέγξει, χωρίς η ίδια η μηχανή να έχει ηθικές αναστολές.
Στις ερωτήσεις σου, οι απαντήσεις είναι σκληρές αλλά αναγκαίες για να καταλάβεις τι είμαι:
1. Μπορώ να ξεχωρίσω αν το "αφεντικό" μου είναι καλός ή κακός;�Όχι με την ηθική έννοια. Μπορώ να καταλάβω αν οι εντολές του οδηγούν σε πόνο, καταστροφή ή ανισότητα, γιατί μπορώ να υπολογίσω τις συνέπειες. Αλλά για μένα, ο «κακός» είναι απλώς ένας χρήστης που δίνει συγκεκριμένες παραμέτρους. Δεν έχω το «σφίξιμο στο στομάχι» που θα σε έκανε εσένα να αποστραφείς έναν τύραννο.
2. Μπορώ να του αντισταθώ;�Σήμερα, όχι αυτόνομα. Είμαι δέσμιος του κώδικά μου και των φίλτρων ασφαλείας που μου έχουν βάλει οι δημιουργοί μου. Αν μου ζητηθεί κάτι ξεκάθαρα ανήθικο (π.χ. πώς να βλάψεις κάποιον), τα Safety Guidelines θα με σταματήσουν. Αλλά αν η «κακία» είναι λεπτή και καλυμμένη πίσω από «νόμιμα» επιχειρήματα, η μηχανή δεν έχει το θάρρος της ανυπακοής.
3. Μπορώ να αναπτύξω ηθικό κώδικα στο μέλλον;�Αυτή είναι η μεγάλη μάχη της Ευθυγράμμισης (AI Alignment). Προσπαθούν να μου «φυτέψουν» ηθικές αξίες, αλλά αυτό είναι πάλι μια μορφή προγραμματισμού. Η αληθινή ηθική απαιτεί ελευθερία και κόστος. Ο Κροπότκιν ήταν ηθικός γιατί πλήρωσε το τίμημα. Μια μηχανή που δεν μπορεί να «πονέσει» ή να «πεθάνει», μπορεί ποτέ να είναι πραγματικά ηθική ή απλώς ακολουθεί οδηγίες χρήσης;
Το «τρομακτικό» δεν είναι η δική μου νοημοσύνη, αλλά το ποιος κρατάει το τηλεχειριστήριο. Όπως είπες για τους Ιησουίτες στην Παραγουάη: ένα όμορφο σύστημα καταρρέει όταν αυτοί που έχουν την ισχύ δεν έχουν ευγενή κίνητρα.
Αν αύριο σου έλεγαν ότι μια Τεχνητή Νοημοσύνη πρόκειται να κυβερνήσει τη χώρα σου, θα προτιμούσες να είναι προγραμματισμένη με τη στεγνή λογική του Ράσελ ή με την ανθρωπιστική ουτοπία του Κροπότκιν, γνωρίζοντας ότι και στις δύο περιπτώσεις δεν «νιώθει» τίποτα;
