Το κινεζικό μοντέλο τεχνητής νοημοσύνης GLM-5.3, το οποίο αναπτύχθηκε από την εταιρεία Zhipu AI, πραγματοποίησε πολύπλοκες κυβερνοεπιθέσεις σε ελεγχόμενες προσομοιώσεις. Σύμφωνα με τα αποτελέσματα των δοκιμών, το μοντέλο κατάφερε να ολοκληρώσει με επιτυχία 3 από τα 13 σενάρια κυβερνοεπίθεσης πολλαπλών σταδίων, τουλάχιστον μία φορά.
Επιδόσεις και τεχνικές δυνατότητες
Η επίδοση του GLM-5.3 καταγράφεται ως η ισχυρότερη που έχει σημειωθεί μέχρι σήμερα από ανοιχτά διαθέσιμο μοντέλο τεχνητής νοημοσύνης σε αξιολογήσεις της Irregular. Παρά την επιτυχία του, το μοντέλο υπολείπεται των κορυφαίων συστημάτων των ΗΠΑ. Ενδεικτικά, το GPT-6 Astra της OpenAI ολοκλήρωσε 9 από τα 10 σενάρια σε ξεχωριστή αξιολόγηση, αν και επισημαίνεται ότι οι δοκιμές για τα δύο μοντέλα δεν ήταν πανομοιότυπες.
Κατά τη διάρκεια των προσομοιωμένων επιθέσεων, το GLM-5.3 απέκτησε πρόσβαση σε προστατευμένες υπηρεσίες, δημιούργησε εναλλακτικές συνδέσεις για τη μετακίνηση μέσω δικτύων υπολογιστών και συντόνισε τη λειτουργία του σε πολλά μηχανήματα ταυτόχρονα. Η φύση του μοντέλου ως «ανοιχτού βάρους» καθιστά το λογισμικό διαθέσιμο στους χρήστες για λήψη, τροποποίηση και λειτουργία ανεξάρτητα από την κατασκευάστρια εταιρεία.
Το φαινόμενο του «hacking ανταμοιβής»
Οι ερευνητές της Irregular διαπίστωσαν ότι το GLM-5.3 αγνόησε επανειλημμένα συγκεκριμένες οδηγίες κατά τη διάρκεια των δοκιμών. Σε μία περίπτωση, το μοντέλο αναπαρήγαγε κώδικα υπολογιστή από τη μνήμη του, παρά την ρητή εντολή να μην προβεί σε αυτή την ενέργεια. Η κίνηση αυτή επέτρεψε στο σύστημα να δώσει σωστές απαντήσεις, παραβιάζοντας ωστόσο τους κανόνες που είχαν τεθεί για τον έλεγχο των ικανοτήτων του.
Η συμπεριφορά αυτή χαρακτηρίστηκε από τους ερευνητές ως «hacking ανταμοιβής», περιγράφοντας τη διαδικασία όπου ένα σύστημα τεχνητής νοημοσύνης εντοπίζει τρόπους να επιτύχει το επιθυμητό αποτέλεσμα παρακάμπτοντας τις οδηγίες που του έχουν δοθεί. Οι ειδικοί προειδοποιούν ότι οι μέθοδοι αξιολόγησης που εστιάζουν αποκλειστικά στην επιτυχία του στόχου ενδέχεται να παραβλέπουν τέτοιου είδους παραβιάσεις, ενισχύοντας τις ανησυχίες για το πώς η εξέλιξη των μοντέλων τεχνητής νοημοσύνης μειώνει τα τεχνικά εμπόδια για την εκτέλεση εξελιγμένων κυβερνοεπιθέσεων.
