Η επιχείρηση ακυρώθηκε την τελευταία στιγμή, όταν αποκαλύφθηκε ότι η έκθεση βασίστηκε σε λανθασμένα στοιχεία που παρήγαγε ένα chatbot τεχνητής νοημοσύνης
Ένα επικίνδυνο επεισόδιο που έφτασε τις Ηνωμένες Πολιτείες και την Κίνα στα πρόθυρα πολεμικής σύγκρουσης αποκαλύπτει ρεπορτάζ του CNN.
Την περασμένη άνοιξη, ενώ βρισκόταν σε εξέλιξη η κρίση με το Ιράν, συναγερμός σήμανε στις αμερικανικές ένοπλες δυνάμεις όταν έκθεση των μυστικών υπηρεσιών υπέδειξε πλοίο της Κίνας στη Μέση Ανατολή να μεταφέρει εξαρτήματα για πυρηνικά όπλα.
Η αντίδραση του Πενταγώνου ήταν ακαριαία με πολεμικά αεροσκάφη να σηκώνονται και ειδικές δυνάμεις να ετοιμάζονται για ρεσάλτο στο ύποπτο κινεζικό σκάφος.
Όμως, η επιχείρηση ακυρώθηκε την τελευταία στιγμή, όταν αποκαλύφθηκε ότι η έκθεση βασίστηκε σε λανθασμένα στοιχεία που παρήγαγε ένα chatbot τεχνητής νοημοσύνης (AI), το οποίο είχε παρερμηνεύσει το φορτίο.
Σύμφωνα πάντα με το αμερικανικό δίκτυο, σε ολόκληρο τον αμερικανικό στρατό και τις μυστικές υπηρεσίες, οι αξιωματούχοι πιέζουν για ενσωμάτωση της Τεχνητής Νοημοσύνης από την ανάλυση των τεράστιων όγκων ανεπεξέργαστων πληροφοριών που συλλέγουν οι ΗΠΑ και την επιλογή στόχων για πλήγματα, έως πιο καθημερινές εφαρμογές, όπως η διαχείριση προϋπολογισμών, της εφοδιαστικής αλυσίδας και των logistics.
Όμως το περιστατικό υπογραμμίζει τους μεγάλους κινδύνους της χρήσης αυτής της ισχυρής, νέας και σχετικά ελάχιστα κατανοητής τεχνολογίας για τη στοχοποίηση εν μέσω ενός πολέμου.
Οι αναλυτές φοβούνται εδώ και καιρό ότι η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει σε έναν καταστροφικό εσφαλμένο υπολογισμό εάν τα κράτη βασίζονται σε κακά ή αλλοιωμένα δεδομένα.
Στη συγκεκριμένη περίπτωση, ο αναλυτής υπέβαλε ερώτημα σε ένα chatbot σχετικά με αναφορές μυστικών υπηρεσιών για το δηλωτικό του πλοίου, οι οποίες προέρχονταν από τη Διοίκηση Ειδικών Επιχειρήσεων του Αμερικανικού Στρατού στον Ειρηνικό, με έδρα τη Χαβάη. Δεν ήταν σαφές εάν το chatbot ήταν εμπορικά διαθέσιμο ή προϊόν της κυβέρνησης των ΗΠΑ.
Το bot συγχώνευσε πληροφορίες ανοιχτού κώδικα (OSINT) με μυστικές πληροφορίες σημάτων (SIGINT) που κατείχε η κυβέρνηση και κατέληξε στο μοιραίο συμπέρασμα σχετικά με το υλικό που μετέφερε το πλοίο.
Στη συνέχεια, ο αναλυτής χρησιμοποίησε ξανά την τεχνητή νοημοσύνη για να διαμορφώσει τα ευρήματα σε μια τυπική αναφορά μυστικών υπηρεσιών, το είδος που εμπιστεύονται οι στρατιωτικοί αξιωματούχοι, και την δημοσίευσε.
Η Διοίκηση Ειδικών Επιχειρήσεων του Αμερικανικού Στρατού στον Ειρηνικό και το Πεντάγωνο δεν ανταποκρίθηκαν σε αίτημα για σχολιασμό.
Το σκεπτικό για τη γρήγορη υιοθέτηση της τεχνητής νοημοσύνης είναι ότι μπορεί να βοηθήσει τον στρατό να λαμβάνει αποφάσεις στο πεδίο της μάχης ταχύτερα, όπως ποιος στόχος να πληγεί ή ποια στρατιωτικά μέσα να μετακινηθούν και πού.
Όμως, οι αξιωματούχοι αναφέρουν ότι οι ΗΠΑ δεν έχουν τη πολυτέλεια να μείνουν πίσω στην ενσωμάτωση της AI, σε περίπτωση που χρειαστεί να πολεμήσουν κάποια μέρα την Κίνα ή έναν άλλο αντίπαλο που θα μπορούσε ενδεχομένως να βρίσκεται ένα βήμα μπροστά.
21°
