Περίπου τριάντα έξι ευπάθειες ασφαλείας εντοπίστηκαν σε διαδεδομένα μοντέλα τεχνητής νοημοσύνης (AI) και μηχανικής μάθησης (ML), κάποιες από τις οποίες θα μπορούσαν να οδηγήσουν σε απομακρυσμένη εκτέλεση κώδικα και κλοπή πληροφοριών. Αυτές οι ευπάθειες εντοπίστηκαν σε εργαλεία ανοιχτού κώδικα όπως το ChuanhuChatGPT, το Lunary και το LocalAI, στα πλαίσια λειτουργίας της πλατφόρμας επιβράβευσης εντοπισμού σφαλμάτων Huntr της Protect AI.
Οι πιο σοβαρές ευπάθειες αφορούν το εργαλείο Lunary, ένα σύστημα για μεγάλα γλωσσικά μοντέλα (LLMs). Μια από αυτές (CVE-2024-7474) επιτρέπει σε εξουσιοδοτημένο χρήστη να βλέπει ή να διαγράφει δεδομένα άλλων χρηστών, ενώ μια άλλη (CVE-2024-7475) επιτρέπει την πρόσβαση σε ευαίσθητες πληροφορίες χωρίς άδεια. Επιπλέον, βρέθηκε ότι κακόβουλοι χρήστες είχαν την δυνατότητα να τροποποιούν τις προτροπές άλλων χρηστών αλλάζοντας παραμέτρους σε αιτήσεις.
Σοβαρή ευπάθεια εντοπίστηκε και στο ChuanhuChatGPT (CVE-2024-5982), όπου μπορεί να οδηγήσει σε εκτέλεση κώδικα και έκθεση δεδομένων μέσω της δυνατότητας ανεβάσματος αρχείων από χρήστες. Παρόμοια προβλήματα βρέθηκαν και στο LocalAI, που επιτρέπουν σε κακόβουλους χρήστες να τρέχουν κακόβουλο κώδικα ή να ανιχνεύουν έγκυρα API keys.
Τέλος, η NVIDIA διόρθωσε μια ευπάθεια στο πλαίσιο AI NeMo (CVE-2024-0129), που θα μπορούσε να επιτρέψει τροποποιήσεις δεδομένων και εκτέλεση κώδικα.
Αυτές οι έρευνες υπογραμμίζουν πόσο σημαντική είναι η ασφάλεια στον συνεχώς εξελισσόμενο τομέα της τεχνητής νοημοσύνης και της μηχανικής μάθησης, ειδικά όταν τα εργαλεία αυτά χρησιμοποιούνται ευρέως από εταιρείες και οργανισμούς. Οι ευπάθειες δεν αφορούν μόνο τεχνικά θέματα αλλά μπορούν να έχουν σοβαρές επιπτώσεις στην προστασία δεδομένων και την εμπιστοσύνη των χρηστών. Οι προγραμματιστές και οι χρήστες καλούνται να παραμένουν σε εγρήγορση, να εφαρμόζουν τις τελευταίες ενημερώσεις και να χρησιμοποιούν εργαλεία ανίχνευσης ευπαθειών, ώστε να προλαμβάνουν επιθέσεις και να διασφαλίζουν την ακεραιότητα των συστημάτων τους.