Πρέπει να επιβραδύνουμε την πορεία προς τα όρια της τεχνητής νοημοσύνης – Galaksias Portal News

Νέα έκκληση προς τον κλάδο της τεχνητής νοημοσύνης να «επιβραδύνει» τον ρυθμό ανάπτυξης απηύθυνε ο εκτελεστικός διευθυντής της εταιρείας AI Anthropic, Ντάριο Αμοντέι.

Παρουσίασε μάλιστα, ένα σχέδιο τριών σημείων για την επίτευξη αυτού του στόχου, δηλώνοντας ότι η εταιρεία του θα δεσμευτεί μονομερώς να εφαρμόσει το πρώτο από αυτά τα μέτρα.

Σε ανάρτησή του
στα μέσα κοινωνικής δικτύωσης, ο Ντάριο Αμοντέι κοινοποίησε έναν σύνδεσμο προς
ένα δοκίμιο με τίτλο «We Must Pace the Frontier» («Πρέπει να επιβραδύνουμε την πορεία προς τα όρια της τεχνητής
νοημοσύνης»), στο οποίο εξηγεί πώς η Anthropic θα παρείχε σε «ανεξάρτητους αξιολογητές μόνιμη
πρόσβαση στα συστήματά μας, σε επίπεδο αντίστοιχο με αυτό των εργαζομένων μας,
ώστε να μπορούν να επαληθεύουν τη συμμόρφωσή μας με τα μέτρα ασφαλείας, να
αναφέρουν περιστατικά και να αξιολογούν κατά πόσο τα μοντέλα ευθυγραμμίζονται
με τις επιδιωκόμενες αρχές κατά τη διάρκεια της εκπαίδευσής τους».

Η παραίτηση ερευνητή της Anthropic

Η κίνηση αυτή έρχεται μετά την προειδοποίηση πρώην ερευνητή της Anthropic, ο οποίος την Τετάρτη δήλωσε ότι η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει στην εξαφάνιση της ανθρωπότητας έως το 2030. Ο ερευνητής Τζέικομπ Κόξον ανέφερε σε σειρά αναρτήσεων ότι παραιτήθηκε από τη θέση του επειδή η Anthropic και ο προηγούμενος εργοδότης του, η OpenAI, αγνοούσαν ή δεν αντιμετώπιζαν με τον κατάλληλο τρόπο την απειλή που συνιστά η τεχνητή νοημοσύνη.

«Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Κινούνται με ταχύτητα προς μια αυτοβελτιούμενη υπερνοημοσύνη και διακινδυνεύουν τις ζωές μας», έγραψε ο Κόξον. «Οι άνθρωποι που αναπτύσσουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας… Καμία άλλη ανθρώπινη δραστηριότητα δεν εγκυμονεί τέτοιο επίπεδο κινδύνου».

Οι προτάσεις του CEO της Anthropic για την επιβράδυνση του ρυθμού ανάπτυξης της AI

Στο δοκίμιό του ο Αμοντέι, έγραψε ότι «όταν χρησιμοποιείται με σύνεση, η τεχνητή νοημοσύνη μπορεί να αποτελέσει το πιο πρόσφατο σε μια μακρά σειρά τεχνολογικών θαυμάτων που έχουν βελτιώσει και εξυψώσει την ανθρωπότητα».

«Όμως, όπως πολλές τεχνολογίες πριν από αυτήν, η τεχνητή νοημοσύνη εγκυμονεί κινδύνους και, επειδή είναι μια τόσο ισχυρή τεχνολογία, οι κίνδυνοι αυτοί είναι σοβαροί… Ένας αγώνας προς τα κάτω, που τροφοδοτείται από εμπορικά κίνητρα, μπορεί να καταστήσει αυτούς τους κινδύνους ακόμη πιο έντονους», έγραψε.

Ωστόσο, ο CEO της Anthropic συνέχισε λέγοντας: «Τους τελευταίους μήνες έχω πειστεί ότι η πλήρης αντιμετώπιση των κινδύνων απαιτεί ακόμη μεγαλύτερη σύνεση – όχι μόνο επενδύσεις στην πρόληψη των κινδύνων, αλλά και επιβράδυνση του ρυθμού με τον οποίο εξελίσσονται οι δυνατότητες της τεχνητής νοημοσύνης, ώστε η πρόληψη των κινδύνων να έχει τον χρόνο να συμβαδίσει».

«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης. Η πρόοδος θα εξακολουθήσει να φαίνεται ταχύτατη και πρέπει να αξιοποιήσουμε με σύνεση τον χρόνο που κερδίζουμε», πρόσθεσε με έντονα γράμματα.

Ο Αμοντέι έγραψε επίσης ότι κατά τη διάρκεια του καλοκαιριού είχε δει την τεχνητή νοημοσύνη να «εξελίσσεται δραματικά ταχύτερα», μια δυναμική που αποκαλείται αναδρομική αυτοβελτίωση (recursive self-improvement).

«Αν αφεθεί
ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να
ελέγχουμε αυτά τα συστήματα και, ως εκ τούτου, πρέπει να επιδιωχθεί με μεγάλη
προσοχή, εφόσον επιδιωχθεί καθόλου», δήλωσε.