«Η τεχνητή νοημοσύνη μπορεί να μας εξολοθρεύσει σε λίγα χρόνια» – Galaksias Portal News
Σύμφωνα με τον ίδιο, τα ΑΙ συστήματα αυτά θα μπορούσαν να εξολοθρεύσουν όλη την ανθρωπότητα πριν καν κλείσει η δεκαετία που διανύουμε.
- Επικεφαλής επιστήμονες, όπως της OpenAI, ζητούν συντονισμένη επιβράδυνση στην ανάπτυξη της τεχνητής νοημοσύνης. Προειδοποιούν ότι το κρίσιμο ζήτημα της «ευθυγράμμισης» των συστημάτων με τις ανθρώπινες αξίες παραμένει άλυτο, καθιστώντας την ταχεία εξέλιξη επικίνδυνη.
- Οι ανησυχίες εστιάζουν στην ικανότητα της τεχνητής νοημοσύνης για αυτοβελτίωση. Στέλεχος της Anthropic συμφωνεί, εκτιμώντας μάλιστα την πιθανότητα εξόντωσης της ανθρωπότητας μέσα στην επόμενη δεκαετία σε ποσοστό άνω του 10% λόγω ανεξέλεγκτης υπερνοημοσύνης.
- Οι προειδοποιήσεις δεν είναι νέες, καθώς το 2023 κορυφαία στελέχη, όπως οι CEO της OpenAI και Anthropic, εξίσωσαν τον κίνδυνο από την ΑΙ με αυτόν του πυρηνικού πολέμου, ζητώντας να αποτελέσει παγκόσμια προτεραιότητα.
- Η συζήτηση έχει μεταφερθεί στο Κογκρέσο με νομοσχέδια για ρύθμιση ή παύση της ανάπτυξης ΑΙ. Παράλληλα, εντείνεται η κοινωνική αντίδραση κατά των κέντρων δεδομένων, μετατρέποντας το ζήτημα σε σημαντικό πολιτικό παράγοντα στις ΗΠΑ.
Ένας ερευνητής τεχνητής νοημοσύνης παραιτήθηκε πριν από μερικά 24ωρα από τη θέση του και κατηγόρησε τόσο την πρώην εταιρεία του όσο και τον μεγαλύτερο ανταγωνιστή της ότι ενεργούν ανεύθυνα, πυροδοτώντας ένα κύμα ανησυχίας στα μέσα κοινωνικής δικτύωσης για τον ρυθμό με τον οποίο εξελίσσεται η τεχνολογία.
Ο Τζέικομπ Κόξον, που έχει εργαστεί ως ερευνητής τόσο στην Anthropic όσο και στην OpenAI, έγραψε σε ανάρτησή του στο X ότι παραιτήθηκε επειδή θεωρεί πως οι δύο εταιρείες «παίζουν στοιχηματίζοντας τις ζωές μας». Σύμφωνα με τον ίδιο, οι άνθρωποι που φτιάχνουν σήμερα τα συστήματα αυτά πιστεύουν ειλικρινά ότι θα μπορούσαν να εξολοθρεύσουν όλη την ανθρωπότητα πριν καν κλείσει η δεκαετία.
«Μην υποτιμάτε τη δύναμη αυτής της τεχνολογίας»
«Μην υποτιμάτε τη δύναμη αυτής της τεχνολογίας», έγραψε ο Κόξον. «Σύντομα θα έχουμε υπερανθρώπινα συστήματα, ικανά να παραβιάζουν τα πάντα, να ανατρέπουν οποιονδήποτε τομέα μέσα σε μια νύχτα και να αποκτούν πραγματική εξουσία και πόρους».
Η ανάρτηση, που έχει ήδη ξεπεράσει τις 80 εκατομμύρια προβολές, αναζωπύρωσε μια συζήτηση που ταλανίζει εδώ και χρόνια τη Σίλικον Βάλεϊ: αν η τεχνητή νοημοσύνη μπορεί πράγματι να αναπτυχθεί και να παραμείνει υπό έλεγχο. Καθώς η Anthropic και η OpenAI κινούνται προς ενδεχομένως ιστορικές εισαγωγές στο χρηματιστήριο, κυκλοφορώντας παράλληλα ολοένα πιο ισχυρά μοντέλα, όλο και περισσότεροι ερευνητές ζητούν συντονισμένη επιβράδυνση.
Δεν έχει λυθεί το ζήτημα της «ευθυγράμμισης»
Ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Πάχοτσκι, δημοσίευσε την περασμένη Κυριακή μια ανάρτηση στην οποία προειδοποιούσε ότι καμία εταιρεία τεχνητής νοημοσύνης δεν έχει λύσει επαρκώς το ζήτημα της «ευθυγράμμισης» και της παρακολούθησης των συστημάτων, ώστε να συνεχίσει με ασφάλεια την ανάπτυξή τους με τον ίδιο ρυθμό. Στον χώρο της τεχνητής νοημοσύνης, ο όρος «ευθυγράμμιση» αναφέρεται στις προσπάθειες των κατασκευαστών να εξασφαλίσουν ότι τα συστήματα συμπεριφέρονται σύμφωνα με τις ανθρώπινες αξίες και προθέσεις.
«Ελπίζω και περιμένω οι εθελοντικές επιβραδύνσεις να γίνουν ο κανόνας, μέχρι να καθιερωθούν κοινά όρια ασφάλειας», έγραψε ο Πάχοτσκι. «Πιστεύω ότι ο διεθνής συντονισμός για το μέλλον της τεχνητής νοημοσύνης πρέπει να γίνει κορυφαία προτεραιότητα για τις κυβερνήσεις σε όλο τον κόσμο».
Η ανάρτηση του Κόξον άγγιξε ιδιαίτερα και όσους ερευνητές ανησυχούν για το ενδεχόμενο της λεγόμενης αναδρομικής αυτοβελτίωσης, δηλαδή ένα σύστημα τεχνητής νοημοσύνης να αποκτήσει την ικανότητα να σχεδιάζει και να αναπτύσσει τον διάδοχό του χωρίς ανθρώπινη παρέμβαση. Κάτι τέτοιο δεν είναι ακόμη εφικτό, όμως εταιρείες όπως η Anthropic και η OpenAI έχουν προειδοποιήσει ότι θα καθιστούσε πολύ πιο εύκολο να χαθεί ο έλεγχος πάνω σε αυτά τα συστήματα.
«Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα»
«Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα», έγραψε ο Κόξον. «Οδεύουν κατευθείαν προς μια υπερνοημοσύνη ικανή να αυτοβελτιώνεται διαρκώς».
Ο Έβαν Χιούμπινγκερ, επικεφαλής της ομάδας ευθυγράμμισης στην Anthropic, συμφώνησε δημόσια με τον Κόξον σε ανάρτησή του αργά την Τρίτη. «Ο Τζέικομπ έχει δίκιο, πιστεύουμε πραγματικά και ειλικρινά ότι η τεχνητή νοημοσύνη θα μπορούσε να εξολοθρεύσει όλη την ανθρωπότητα. Προσωπικά εκτιμώ πάνω από 10% πιθανότητα μέσα στην επόμενη δεκαετία», έγραψε ο Χιούμπινγκερ. «Πιστεύω ότι η Anthropic προσπαθεί όσο μπορεί, αλλά δεν έχουμε ακόμη ένα σχέδιο για να λύσουμε το ζήτημα της ευθυγράμμισης στην περίπτωση μιας υπερνοημοσύνης, ούτε βρισκόμαστε σαφώς σε αυτή την τροχιά».
«Να επιβραδυνθεί η ανάπτυξη της πλέον προηγμένης ΑΙ»
Οι ανησυχίες για το ενδεχόμενο η τεχνητή νοημοσύνη να προκαλέσει εξαφάνιση ή άλλες καταστροφικές συνέπειες για την ανθρωπότητα δεν είναι καινούργιες. Το 2023, κορυφαία στελέχη και ερευνητές του κλάδου, μεταξύ των οποίων ο διευθύνων σύμβουλος της OpenAI Σαμ Άλτμαν και ο διευθύνων σύμβουλος της Anthropic Ντάριο Αμοντέι, είχαν υπογράψει κοινή δήλωση σύμφωνα με την οποία ο περιορισμός του κινδύνου εξαφάνισης από την τεχνητή νοημοσύνη πρέπει να αποτελεί παγκόσμια προτεραιότητα, στο ίδιο επίπεδο με άλλους κινδύνους παγκόσμιας κλίμακας, όπως οι πανδημίες και ο πυρηνικός πόλεμος. Ορισμένοι ειδικοί χρησιμοποιούν μάλιστα τον όρο «p(doom)» για να εκτιμήσουν αριθμητικά την πιθανότητα ενός τέτοιου καταστροφικού σεναρίου.
Ο Χιούμπινγκερ ήταν, εξάλλου, ένας από τους περίπου 1.400 ερευνητές τεχνητής νοημοσύνης που υπέγραψαν τον Ιούλιο ανοιχτή επιστολή με τίτλο «Pacing the Frontier», η οποία καλούσε την αμερικανική κυβέρνηση να αναπτύξει τα απαραίτητα εργαλεία ώστε να επιβραδυνθεί σκόπιμα η ανάπτυξη της πλέον προηγμένης τεχνητής νοημοσύνης.
Στο Κογκρέσο, κάποιοι βουλευτές έχουν ήδη επιχειρήσει να ρυθμίσουν το ζήτημα, χωρίς ωστόσο να υπάρχει σαφής συναίνεση. Τον Ιούλιο, ο βουλευτής Τζέι Ομπερνόλτε και η βουλευτής Λόρι Τράαν κατέθεσαν νομοσχέδιο γνωστό ως FRONTIER Act, που στοχεύει στη θέσπιση πλαισίου για τη χρήση προηγμένων μοντέλων τεχνητής νοημοσύνης.
Νωρίτερα αυτόν τον μήνα, ο γερουσιαστής Μπέρνι Σάντερς και ο βουλευτής Γκρεγκ Κασάρ κατέθεσαν αντίστοιχα το λεγόμενο Ban Artificial Superintelligence Act, που προβλέπει προσωρινή παύση της ανάπτυξης προηγμένης τεχνητής νοημοσύνης, έως ότου η ομοσπονδιακή κυβέρνηση θεσπίσει κανόνες ασφαλείας. Και τα δύο νομοσχέδια έχουν προκαλέσει μικτές αντιδράσεις.
«Ερευνητές ασφαλείας παραιτούνται, ισχυρά μοντέλα τεχνητής νοημοσύνης ξεφεύγουν από τον έλεγχο των εργαστηρίων τους και οι εταιρείες συνεχίζουν να τρέχουν ασταμάτητα», έγραψε η Τράαν σε ανάρτησή της. «Είναι πια καιρός το Κογκρέσο να βγει από τη σκιά και να κάνει τη δουλειά του».
Παράλληλα, οι νομοθέτες προσπαθούν να διαχειριστούν και τη διογκούμενη κοινωνική αντίδραση απέναντι στα κέντρα δεδομένων που τροφοδοτούν την τεχνητή νοημοσύνη. Η αντίδραση έχει γίνει τόσο έντονη, ώστε η Εθνική Ρεπουμπλικανική Επιτροπή Γερουσίας ανέφερε πρόσφατα ότι τα data centers έχουν μετατραπεί σε «λανθάνον ζήτημα» που μπορεί να επηρεάσει ολόκληρο τον εκλογικό κύκλο των ενδιάμεσων εκλογών.
Ο υπουργός Οικονομικών των ΗΠΑ, Σκοτ Μπέσεντ, δήλωσε νωρίτερα αυτόν τον μήνα ότι οι εταιρείες τεχνητής νοημοσύνης έχουν κάνει «απαίσια δουλειά» στο να εξηγήσουν στους Αμερικανούς πολίτες τι ακριβώς κάνουν. «Θα χρειαστεί να αναλάβουν ένα μέρος της ευθύνης και θα πρέπει να πείσουν τους Αμερικανούς ότι τα οφέλη δεν θα καταλήξουν σε μια μικρή ομάδα ανθρώπων», είπε ο Μπέσεντ, μιλώντας μετά τη συνάντηση υπουργών Οικονομικών και κεντρικών τραπεζιτών της G20 στο Άσβιλ της Βόρειας Καρολίνας. «Αυτό ακούω κι εγώ από τον κόσμο».
Αναπαραγωγή άρθου από εδώ
