Όχι για διάγνωση: Τι δείχνουν οι νέες μελέτες για ChatGPT και Gemini

Σημαντικά ερωτήματα για την αξιοπιστία της τεχνητής νοημοσύνης σε ζητήματα υγείας εγείρουν δύο νέες μελέτες, που αξιολόγησαν δημοφιλή chatbots όπως το ChatGPT και το Gemini.

Σύμφωνα με τα ευρήματα, τα ChatGPT και το Gemini απάντησαν σωστά σε λίγο πάνω από το 50% των ερωτήσεων που τους τέθηκαν, ενώ περίπου 1 στις 5 λανθασμένες απαντήσεις κρίθηκε δυνητικά επικίνδυνη για την υγεία των χρηστών.

Οι ερευνητές διαπίστωσαν ότι τα chatbots δυσκολεύονται ιδιαίτερα όταν καλούνται να λειτουργήσουν ως «γιατροί», δηλαδή να αξιολογήσουν συμπτώματα και να οδηγηθούν σε διάγνωση. Σε τέτοιες περιπτώσεις, τα ποσοστά λάθους έφτασαν έως και το 80%, ειδικά όταν τα δεδομένα ήταν ελλιπή ή ασαφή.

Το βασικό πρόβλημα, σύμφωνα με τους ειδικούς, είναι ότι τα μοντέλα τεχνητής νοημοσύνης λειτουργούν κυρίως με αναγνώριση μοτίβων και όχι με την πολυεπίπεδη κλινική σκέψη που εφαρμόζουν οι γιατροί. Έτσι, τείνουν να δίνουν γρήγορες και «σίγουρες» απαντήσεις, ακόμη και όταν δεν διαθέτουν επαρκή στοιχεία.

Ιδιαίτερη ανησυχία προκαλεί και η τάση των συστημάτων να εμφανίζονται βέβαια, ακόμη και όταν κάνουν λάθος. Σε ορισμένες περιπτώσεις, υιοθέτησαν ακόμη και ψευδείς ή κατασκευασμένες πληροφορίες ως πραγματικές, ενισχύοντας τον κίνδυνο παραπληροφόρησης.

Την ίδια στιγμή, η χρήση τέτοιων εργαλείων αυξάνεται: περίπου 1 στους 4 χρήστες αναζητά πληροφορίες υγείας μέσω AI, ενώ ένα ποσοστό γύρω στο 14% δηλώνει ότι απέφυγε να επισκεφθεί γιατρό βασιζόμενο σε αυτές τις απαντήσεις.

Οι ειδικοί τονίζουν ότι η τεχνητή νοημοσύνη μπορεί να λειτουργήσει επικουρικά, αλλά όχι ως υποκατάστατο της ιατρικής γνώμης. Όπως επισημαίνεται, απαιτούνται σαφείς κανόνες, έλεγχοι και μεγαλύτερη ενημέρωση του κοινού για τα όρια αυτών των εργαλείων.

Το βασικό μήνυμα είναι σαφές: τα chatbots μπορεί να είναι χρήσιμα για γενική ενημέρωση, αλλά όταν πρόκειται για την υγεία, η ανθρώπινη κρίση παραμένει αναντικατάστατη.

Πηγή: Washington Post