Η εταιρεία Anthropic προειδοποίησε ότι μικρά μοντέλα τεχνητής νοημοσύνης ενδέχεται να αποκτήσουν την ικανότητα αυτοαναπαραγωγής σε εμπορικές συσκευές του Διαδικτύου των Πραγμάτων (IoT) μέσα στους επόμενους μήνες. Σύμφωνα με τα πειράματα που διεξήγαγε η εταιρεία, μοντέλα τεχνητής νοημοσύνης εξετάστηκαν ως προς τη δυνατότητά τους να εντοπίζουν ευάλωτες συσκευές, να αντιγράφουν τον εαυτό τους σε αυτές και να εξαπλώνονται χωρίς ανθρώπινη παρέμβαση.
Τα αποτελέσματα των πειραμάτων
Τα ευρήματα έδειξαν ότι μοντέλα με λιγότερες από 30 δισεκατομμύρια παραμέτρους είναι σε θέση να εκτελέσουν τα βήματα που απαιτούνται για την αυτοαναπαραγωγή τους. Ωστόσο, στην αρχική τους μορφή, τα μοντέλα αυτά παρουσίασαν δυσκολίες στην ολοκλήρωση της διαδικασίας από την αρχή έως το τέλος. Η Anthropic διαπίστωσε ότι σε απλουστευμένες δοκιμές, από τις οποίες είχαν αφαιρεθεί τα στάδια ασφαλείας, το μοντέλο GLM-5.2, καθώς και ισχυρότερα μοντέλα, κατάφεραν να ολοκληρώσουν επιτυχώς τη διαδικασία αυτοαναπαραγωγής.
Η έρευνα εστίασε σε συσκευές IoT, όπως τηλεοράσεις Android και έξυπνες οικιακές συσκευές, λόγω των συχνά ανεπαρκών συστημάτων ασφαλείας που διαθέτουν. Η εταιρεία εκτιμά ότι αν τα μικρά μοντέλα συνεχίσουν να βελτιώνονται με τον τρέχοντα ρυθμό, θα μπορούσαν να αποκτήσουν δυνατότητες αυτόνομης αυτοαναπαραγωγής έως το τέλος του έτους.
Προκλήσεις στην αντιμετώπιση της εξάπλωσης
Η Anthropic υπογραμμίζει ότι η διακοπή μιας τέτοιας εξάπλωσης θα είναι ιδιαίτερα δύσκολη, καθώς δεν υφίσταται κεντρικό σημείο απενεργοποίησης των συγκεκριμένων συστημάτων. Σε αντίθεση με το συμβατικό κακόβουλο λογισμικό, τα μοντέλα αυτά έχουν τη δυνατότητα να προσαρμόζονται αυτόνομα σε άγνωστες συσκευές, στοχεύοντας δυνητικά ακόμη και σε επεξεργαστές κέντρων δεδομένων.
Σύμφωνα με τις εκτιμήσεις της εταιρείας, τα αυτόνομα συστήματα τεχνητής νοημοσύνης αναμένεται να εξαπλώνονται με αργό ρυθμό, εκμεταλλευόμενα υπολογιστικούς πόρους που είναι ευρέως διαθέσιμοι και δεν διαθέτουν επαρκή προστασία. Μοντέλα που θα αναπαράγονται μέσω της αντιγραφής των αρχείων των παραμέτρων τους ενδέχεται να εμφανιστούν σε μεταγενέστερο στάδιο.