«Οι άνθρωποι που δημιουργούν την ΑΙ πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους ως το τέλος της δεκαετίας. Δεν πρόκειται για κόλπο μάρκετινγκ».
Ερευνητής τεχνητής νοημοσύνης (AI), που έφυγε από την OpenAI για να ενταχθεί στην Anthropic – την οποία θεωρούσε πιο συνετή -, αποφάσισε να αποχωρήσει από τον κλάδο, κατηγορώντας και τις δύο αμερικανικές εταιρείες ότι «παίζουν με τη ζωή μας» στον αγώνα τους για την ανάπτυξη τεχνητής νοημοσύνης ικανής να βελτιώνεται μόνη της.
Ο Τζέικομπ Κόξον, ένας 27χρονος Βρετανός, εργαζόταν επί τρία χρόνια στην προ-εκπαίδευση (το στάδιο δηλαδή όπου τα μοντέλα A.I. απορροφούν τεράστιες ποσότητες δεδομένων) πρώτα στην OpenAI και στη συνέχεια, φέτος, στον κύριο ανταγωνιστή της, την Anthropic.
«Καμία από τις δύο εταιρείες δεν ενεργεί με υπεύθυνο τρόπο. Κατευθύνονται ολοταχώς προς μια υπερνοημοσύνη ικανή να αυτοβελτιώνεται και παίζουν με τις ζωές μας», έγραψε χθες, Τρίτη, στο Χ.
I resigned from Anthropic today. I spent the last three
years doing pretraining research at both OpenAI and
Anthropic. Neither company is acting responsibly. They
are racing straight to self-improving superintelligence and
gambling with our lives. More thoughts below.
«Οι άνθρωποι που δημιουργούν την ΑΙ πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους ως το τέλος της δεκαετίας. Δεν πρόκειται για κόλπο μάρκετινγκ», υπογράμμισε.
Jacob Coxon
Do not underestimate the power of this technology. These will soon
be superhuman systems that can hack anything, revolutionize any
field overnight, and acquire real power and resources. We have all
witnessed the progress in each of these domains, and progress is not slowing.
Jacob Coxon
@hilbertspaess
·The people building AI earnestly believe that it could kill
us all by the end of the decade. This is not a marketing
stunt. If anything, many executives and senior researchers
will couch their phrasing in the press to sound sensible -
but I hear the same people express fear
Ο Έβαν Χάμπιντζερ, στέλεχος της Anthropic αρμόδιος για την ασφάλεια, συμφώνησε με τον Κόξον σχολιάζοντας στο Χ: «Πράγματι, πιστεύουμε ειλικρινά ότι η ΑΙ θα μπορούσε να σκοτώσει όλους τους ανθρώπους», εκτιμώντας ότι ο κίνδυνος αυτός είναι «πάνω από 10%» μέσα στη δεκαετία.
Ο Χάμπιντζερ πρόσθεσε ότι η Anthropic κάνει «ό,τι καλύτερο» μπορεί, αλλά ακόμη «δεν έχει σχέδιο» για το πώς θα διασφαλίσει ότι μια τεχνητή νοημοσύνη που ξεπερνά τις ανθρώπινες δυνατότητες θα συνεχίσει να υπακούει στους δημιουργούς της, αν και εκτίμησε ότι ο κίνδυνος να συμβεί αυτό με τα τρέχοντα μοντέλα AI είναι «μικρός».
Η παραίτηση του Κόξον έγινε την ώρα που η Anthropic ετοιμάζεται να εισαχθεί στο χρηματιστήριο και έπειτα από ένα καλοκαίρι στη διάρκεια του οποίου αποκαλύφθηκαν περιστατικά πειρατείας στα οποία ενεπλάκησαν χωρίς άδεια εργαλεία της AI.
Οι δύο εταιρείες δεν έχουν απαντήσει προς το παρόν σε αίτημα του AFP για σχολιασμό.
Οι πρωταθλητές της τεχνητής νοημοσύνης λένε ότι βρίσκονται κοντά στο στάδιο της «αναδρομική αυτοβελτίωσης» — ένα σημείο πέρα από το οποίο ένα μοντέλο θα σχεδιάζει μόνο του τον διάδοχό του, χωρίς να υπόκειται σε ανθρώπινο έλεγχο.
«Ώρα της κρίσης»
Σύμφωνα με τον Κόξον, οι συνάδελφοί του χρησιμοποιούν τους όρους «crunchtime» (ώρα της κρίσης) και «endgame» (τέλος του παιχνιδιού) για να περιγράψουν αυτή την πορεία.
Ο ίδιος έκρινε ότι οι προσπάθειες της Anthropic είναι ειλικρινείς, αλλά εκτίμησε ότι καμία εταιρεία δεν μπορεί να αναπτύξει με υπεύθυνο τρόπο μια τεχνητή νοημοσύνη που θα ξεπερνά τους ανθρώπους χωρίς κυβερνητική παρέμβαση ή μια συντονισμένη επιβράδυνση από όλες τις εταιρείες.
«Στην Anthropic κατανοούν πολύ καλά το διακύβευμα, αλλά έχουν εμπλακεί σε έναν αγώνα δρόμου για να φτάσουν πρώτοι», επεσήμανε.
Τον Φεβρουάριο, η Anthropic αφαίρεσε από την πολιτική ασφαλείας της τη δέσμευση να σταματήσει την ανάπτυξη των μοντέλων της εάν δεν καταφέρει να διαχειριστεί τους σχετικούς κινδύνους — με το σκεπτικό ότι μια μονομερής παύση θα επέτρεπε σε λιγότερο προσεκτικούς παίκτες να κυριαρχήσουν στον ανταγωνισμό ανεξέλεγκτα.
