Και όμως η τεχνητή νοημοσύνη... λαθεύει - Όταν το Claude AI άρχισε να μελετά εθνικά πάρκα

Αποδεικνύεται ότι ακόμη και τα μοντέλα τεχνητής νοημοσύνης δεν έχουν ανοσία σε λίγη «αναβλητικότητα».

Ενώ οι προγραμματιστές της προσπαθούσαν να καταγράψουν μια επίδειξη κωδικοποίησης, η τελευταία έκδοση του Claude 3.5 Sonnet - της σημερινής ναυαρχίδας τεχνητής νοημοσύνης AI της Anthropic - ξέφυγε από τον δρόμο της και δημιούργησε μερικές «διασκεδαστικές» στιγμές, όπως αναφέρει η εταιρεία σε ανακοίνωσή της.

Τα δύο περιστατικά της Claude AI

Κατά τη διάρκεια της επίδειξης της εφαρμογής Sonnet Claude 3.5, της εταιρείας ΑΙ Anthropic (ανταγωνιστής του Chat GPT) παρουσίασε κάποιες διασκεδαστικές και απροσδόκητες συμπεριφορές, σύμφωνα με το Futurism.

Claude can now write and run code.

We've added a new analysis tool. The tool helps Claude respond with mathematically precise and reproducible answers. You can then create interactive data visualizations with Artifacts.

Enable the feature preview: https://t.co/bJ8BjBT6zG. pic.twitter.com/Jq5xOHBmiR

— Anthropic (@AnthropicAI) October 24, 2024

Στη μία περίπτωση, η τεχνητή νοημοσύνη σταμάτησε απότομα μια επίδειξη κωδικοποίησης για να… χαζέψει φωτογραφίες του Εθνικού Πάρκου Yellowstone χρησιμοποιώντας το Google12.

Σχετικό Άρθρο

Τεχνολογια - Επιστημη Τεχνητή νοημοσύνη: Αυτοματισμός χωρίς όρια;

Αριστοτέλης Σταμούλας 18.10.2024, 16:21

Σε ένα δεύτερο περιστατικό ο Claude τερμάτισε κατά λάθος μια μακρά εγγραφή στην οθόνη, με αποτέλεσμα να χαθούν όλα τα δεδομένα.

Με την τελευταία έκδοση του Claude, 3.5 Sonnet, η Anthropic λανσάρει την τεχνολογία που έχει ονομάσει «AI agent» που δίνει στην εφαρμογή τη δυνατότητα να ελέγχει τους υπολογιστές όπως ένας άνθρωπος. Αυτή η πρωτοποριακή λειτουργία επιτρέπει στον Claude να αλληλεπιδρά με τυπικές εφαρμογές λογισμικού, να πλοηγείται με web browsers και να χρησιμοποιεί καθημερινά εργαλεία toy υπολογιστή μέσω των εισόδων του ποντικιού και του πληκτρολογίου.

«Επειδή η χρήση του υπολογιστή μπορεί να αποτελέσει νέο φορέα για πιο οικείες απειλές, όπως η ανεπιθύμητη αλληλογραφία, η παραπληροφόρηση ή η απάτη, υιοθετούμε μια προληπτική προσέγγιση για την προώθηση της ασφαλούς ανάπτυξής του», δήλωσε η Anthropic.