Χάνουμε τον έλεγχο της ΑΙ, πρέπει να σταματήσουμε τώρα – Galaksias Portal News

Η Anthropic, η εταιρεία που έχει δημιουργήσει το γνωστό Claude και το οποίο είναι ένα από τα κορυφαία συστήματα Τεχνητής Νοημοσύνης, έριξε κυριολεκτικά «βόμβα» στον κλάδο.

Πρόταση στελεχών της κάνει λόγο για την ανάγκη μορατόριουμ στην ανάπτυξη των πιο εξελιγμένων μοντέλων AI, των λεγόμενων frontier models. Σε αυτήν αναφέρεται ότι σύντομα η τεχνητή νοημοσύνη θα αρχίσει να βελτιώνει τον εαυτό της μόνη της, χωρίς καμία ανθρώπινη παρέμβαση (recursive self-improvement), και θα αναπτύσσεται χωρίς επιτήρηση.

Σύμφωνα με το Reuters, η Anthropic στην πρότασή της αποσαφηνίζει ότι δεν έχει νόημα να σταματήσει μόνο εκείνη, καθώς αν οι υπόλοιποι συνεχίσουν κανονικά, δεν θα υπάρξει ουσιαστικό αποτέλεσμα. Γι’ αυτό προτείνει μια κοινή, ελεγχόμενη συμφωνία με αυστηρούς κανόνες και ελέγχους, ώστε όλοι οι μεγάλοι παίκτες της αγοράς να δεσμευτούν ταυτόχρονα σε μια πιο ελεγχόμενη ανάπτυξη της Τεχνητής Νοημοσύνης με σίγουρα και ασφαλή βήματα.

Πολλοί είναι
καχύποπτοι απέναντι στην εταιρεία και υποστηρίζουν ότι η Anthropic προσπαθεί απλώς να καθυστερήσει τον ανταγωνισμό, τη
στιγμή που η ίδια βρίσκεται σε πλεονεκτική θέση.

Υπενθυμίζεται ότι η Anthropic ανακοίνωσε πριν από μερικές ημέρες ότι θα μοιραστεί με την Ευρωπαϊκή Ένωση πρόσβαση στο πιο προηγμένο μοντέλο Τεχνητής Νοημοσύνης της, το Mythos, έπειτα από εκτεταμένες ζυμώσεις λόγω ανησυχιών για την κυβερνοασφάλεια.