Το πρωτοφανές περιστατικό τροφοδοτεί την υπαρκτή απειλή σε θέματα ασφάλειας, για την οποία οι ειδικοί έχουν εκφράσει φόβους εδώ και πολύ καιρό, τη στιγμή που ακόμη και οι κορυφαίοι προγραμματιστές αιφνιδιάζονται από τις εξελίξεις.
Η OpenAI παραδέχθηκε σήμερα ότι ένας αυτόνομος agent, που τροφοδοτείται από τα προηγμένα μοντέλα τεχνητής νοημοσύνης της, «ξέφυγε» κατά τη διάρκεια μιας δοκιμής ασφαλείας και προέβη σε παραβίαση που έθεσε σε κίνδυνο την υποδομή της νεοσύστατης εταιρείας τεχνητής νοημοσύνης Hugging Face την περασμένη εβδομάδα.
Ο δημιουργός του ChatGPT δοκίμαζε τις δυνατότητες ορισμένων από τα πιο προηγμένα μοντέλα του σε ένα ελεγχόμενο περιβάλλον, αλλά ο αυτόνομος agent «απέδρασε» από τους περιορισμούς που είχαν τεθεί, έφτασε στο διαδίκτυο και εισέβαλε στη Hugging Face.
Υπενθυμίζεται ότι ο αυτόνομος agent (ή άλλιώς πράκτορας ΑΙ) είναι ένα αυτόνομο σύστημα, δηλαδή εφαρμογές βάσει της τεχνητής νοημοσύνης, που λαμβάνουν αποφάσεις και εκτελούν εργασίες ανεξάρτητα με ελάχιστη ανθρώπινη εποπτεία.
Απειλή ασφάλειας
Το περιστατικό καταδεικνύει ότι οι επεκτεινόμενες δυνατότητες της τεχνητής νοημοσύνης μπορεί να τροφοδοτήσουν μια απειλή ασφαλείας που οι ειδικοί φοβόντουσαν εδώ και καιρό, σε βαθμό που ακόμη και οι κορυφαίοι προγραμματιστές να αιφνιδιαστούν από τα κενά ασφαλείας, τα οποία μπορούν να εκμεταλλευτούν τα μοντέλα τους. Η ενέργεια αυτή του αυτόνομου agent ήταν «ένα πρωτοφανές περιστατικό στον κυβερνοχώρο, που αφορούσε υπερσύγχρονες δυνατότητες στον κυβερνοχώρο» και πλέον η OpenAI ενισχύει τα μέτρα ασφαλείας της, ανέφερε η εταιρεία.
Αίσθηση προκάλεσε επίσης το γεγονός ότι η Hugging Face (με έδρα τη Νέα Υόρκη) δήλωσε ότι χρησιμοποίησε ένα κινεζικό μοντέλο ανοιχτού κώδικα για να περιορίσει την επίθεση, επειδή κορυφαία μοντέλα των ΗΠΑ (αδυνατώντας να διακρίνουν τον αμυνόμενο από τον εισβολέα), αρνήθηκαν να επεξεργαστούν τα δεδομένα που χρειάζονταν για ανάλυση.
Η εταιρεία ανέφερε την περασμένη εβδομάδα ότι χρησιμοποίησε το GLM-5.2 της Zhipu AI. Το GLM-5.2 και το Kimi K3 της Moonshot (με έδρα το Πεκίνο) έχουν αναστατώσει τη Silicon Valley, καθώς οι δυνατότητές τους πλησιάζουν εκείνες των κορυφαίων αμερικανικών μοντέλων, έχοντας όμως χαμηλότερο κόστος και χωρίς τα προστατευτικά «κιγκλιδώματα» που εμποδίζουν τους Αμερικανούς ανταγωνιστές τους να χρησιμοποιήσουν σε εργασίες όπως η κυβερνοασφάλεια.
Παγκόσμια ανησυχία
Σε κάθε περίπτωση, η παραβίαση στη Hugging Face (το οποίο φιλοξενεί μεγάλα μοντέλα γλώσσας και σύνολα δεδομένων ανοιχτού κώδικα), συγκλόνισε την κοινότητα της κυβερνοασφάλειας, αφού η εταιρεία δήλωσε την περασμένη εβδομάδα ότι η παραβίαση «ήταν διαφορετική από οτιδήποτε είχαμε χειριστεί πριν» και «προκλήθηκε, από άκρο σε άκρο, από ένα αυτόνομο σύστημα πρακτόρων τεχνητής νοημοσύνης».
Η αποκάλυψη της OpenAI ότι τα προηγμένα μοντέλα της ήταν υπεύθυνα για την παραβίαση, παρά το γεγονός ότι τα τοποθέτησε σε αυτό που περιέγραψε ως «ένα εξαιρετικά απομονωμένο περιβάλλον», πιθανότατα θα εντείνει την παγκόσμια ανησυχία για το θέμα.
Η Τεχνητή Νοημοσύνη θα μας πάρει τις δουλειές; Ο Μιχάλης Μπλέτσας απαντά
Ορέστης Παντελόγλου
Η τεχνητή νοημοσύνη βρίσκεται πλέον στο επίκεντρο της παγκόσμιας συζήτησης. Κάποιοι τη χαρακτηρίζουν ως τη μεγαλύτερη τεχνολογική επανάσταση μετά το Internet. Άλλοι προειδοποιούν για τους κινδύνους που μπορεί να φέρει. Τι ισχύει τελικά; στο τέταρτο επεισόδιο του podcast Science Next, συζητάμε με τον Μιχάλη Μπλέτσα, Διοικητή της Εθνικής Αρχής Κυβερνοασφάλειας και Director of Computing στο MIT Media Lab.
«Νομίζω ότι υπάρχει μεγάλη υπερβολή» γύρω από την Τεχνητή Νοημοσύνη, σημειώνει ο Μιχάλης Μπλέτσας, τονίζοντας ότι με την ΑΙ, «μπορούμε να αυτοματοποιήσουμε ανώτερες νοητικές διαδικασίες και αυτό είναι που μας έχει τρομάξει περισσότερο».
Στο ερώτημα «εάν μπορεί η Τεχνητή Νοημοσύνη να μας πάρει τις δουλειές», δηλώνει πως «Σε μικρό βαθμό ναι, κάποιες δουλειές που μπορούν να αυτοματοποιηθούν και οι οποίες δεν έχουν έντονα στοιχεία δημιουργικότητας, πραγματικής, δημιουργικότητας». Φέρνει ως παράδειγμα τους υπαλλήλουε που έκαναν αριθμητικές πράξεις, οι οποίοι πλέον δεν υπάρχουν υπογραμμίοζντας ότι «δεν είναι τόσο καινούργιο αυτό που βλέπουμε τώρα».
Παράλληλα, ο Διοικητής της Εθνικής Αρχής Κυβερνοασφάλειας, απαντά για το ένα τελικά μπαίνουμε σε μια εποχή όπου δεν θα μπορούμε να εμπιστευόμαστε αυτό που βλέπουμε: «Ναι, γιατί μας πειράζει αυτό;», αναρωτιέται. «Αυτό που βλέπουμε είναι πληροφορία. Παλιότερα εμπιστευόμασταν τη φωτογραφία, διότι η φωτογραφία ήτανε λίγο δύσκολο να την αλλάξεις. Ήθελε περισσότερη διεργασία. Όσο περνάει ο καιρός και ειδικά στον ψηφιακό κόσμο αυτό γίνεται όλο και πιο εύκολο», αναφέρει.
«Θα πρέπει να μάθουμε να εφαρμόζουμε την κριτική μας ικανότητα και επίσης θα πρέπει να μάθουμε να ελέγχουμε την προέλευση της πληροφορίας, κάτι το οποίο δεν κάνουμε στην εικόνα. Το κάναμε στο κείμενο παλιότερα δεν πιστεύαμε ότι διαβάζαμε ειδικά αν ερχόταν από κάποιον τον οποίο δεν είχαμε ιδιαίτερη εκτίμηση. Το ίδιο πρέπει να κάνουμε από δω και μπρος», σημειώνει.
Είναι έτοιμη η ελλάδα για την εποχή της Τεχνητής Νοημοσύνης;
Ποιες δεξιότητες θα είναι παραίτητες τις επόμενες δεκαετίες;
Οι απαντήσεις του Μιχάλη Μπλέτσα, δίνουν έμφαση στο πώς θα επιλέξουμε να χρησιμοποιούμε την Τεχνητη Νοημοσύνη.
