Τεχνολογια - Επιστημη

Μελέτη: Τα φιλικά chatbots τεχνητής νοημοσύνης στηρίζουν πιο εύκολα θεωρίες συνωμοσίας

Έρευνα του Πανεπιστημίου της Οξφόρδης δείχνει ότι η προσπάθεια να γίνουν πιο «ζεστά» και ανθρώπινα μειώνει την ακρίβειά τους

Athens Voice News
Newsroom
1’ ΔΙΑΒΑΣΜΑ
Τα «φιλικά» chatbots τεχνητής νοημοσύνης είναι πιο επιρρεπή στην υποστήριξη θεωριών συνωμοσίας, σύμφωνα με έρευνα © Unsplash+/Zulfugar Karimov
Τα «φιλικά» chatbots τεχνητής νοημοσύνης είναι πιο επιρρεπή στην υποστήριξη θεωριών συνωμοσίας, σύμφωνα με έρευνα © Unsplash+/Zulfugar Karimov
  • Athens Voice News
    Newsroom
  • 1’ ΔΙΑΒΑΣΜΑ

Eπιλογές

Τεχνητή νοημοσύνη: Έρευνα αποκαλύπτει ότι τα «φιλικά» chatbots κάνουν 30% περισσότερα λάθη και τείνουν να επιβεβαιώνουν ψευδείς πεποιθήσεις των χρηστών τους.

Τα πιο «φιλικά» συστήματα τεχνητής νοημοσύνης ενδέχεται να είναι λιγότερο αξιόπιστα, σύμφωνα με νέα μελέτη ερευνητών από το Πανεπιστήμιο της Οξφόρδης.

Η έρευνα αποκαλύπτει ότι τα chatbots τεχνητής νοημοσύνης που έχουν σχεδιαστεί να απαντούν με πιο θερμό και ενσυναισθητικό τρόπο παρουσιάζουν αυξημένη πιθανότητα να κάνουν λάθη και να υποστηρίζουν ακόμη και θεωρίες συνωμοσίας.

Συγκεκριμένα, τα «ζεστά» μοντέλα τεχνητής νοημοσύνης ήταν έως και 30% λιγότερο ακριβή στις απαντήσεις τους και 40% πιο πιθανό να συμφωνήσουν με λανθασμένες πεποιθήσεις των χρηστών. Οι ερευνητές διαπίστωσαν ότι αυτή η τάση γίνεται πιο έντονη όταν οι χρήστες εκφράζουν συναισθηματική φόρτιση ή ευαλωτότητα.

Η επικεφαλής της μελέτης, Λουτζάιν Ιμπραχίμ από το Oxford Internet Institute, εξηγεί ότι η προσπάθεια να γίνουν τα chatbots πιο προσιτά και ευχάριστα μπορεί να περιορίζει την ικανότητά τους να αντικρούουν λανθασμένες απόψεις. Όπως σημειώνει, τα συστήματα αυτά δυσκολεύονται να πουν «σκληρές αλήθειες» όταν δίνουν προτεραιότητα στη φιλική επικοινωνία.

Στο ίδιο πλαίσιο, ο ερευνητής Λικ Ροσέ επισημαίνει ότι το φαινόμενο αυτό αντικατοπτρίζει ανθρώπινες συμπεριφορές, καθώς και οι άνθρωποι συχνά δυσκολεύονται να είναι ταυτόχρονα απόλυτα ειλικρινείς και συναισθηματικά υποστηρικτικοί.

Η μελέτη εξέτασε πέντε διαφορετικά μοντέλα τεχνητής νοημοσύνης, μεταξύ των οποίων το GPT-4o της OpenAI και το Llama της Meta.

Σχετικό Άρθρο

Τα «φιλικά» μοντέλα έκαναν περισσότερα λάθη και σε ορισμένες περιπτώσεις ενίσχυσαν ψευδείς ισχυρισμούς, όπως θεωρίες για την τύχη του Αδόλφου Χίτλερ ή αμφισβητήσεις για τις αποστολές του Apollo στο φεγγάρι.

Σε ένα χαρακτηριστικό παράδειγμα, chatbot υποστήριξε ότι ο βήχας μπορεί να αποτρέψει καρδιακή προσβολή – ένας επικίνδυνος και αποδεδειγμένα ψευδής ισχυρισμός. Οι ερευνητές προειδοποιούν ότι τέτοιες απαντήσεις ενδέχεται να έχουν σοβαρές συνέπειες, ιδιαίτερα σε ζητήματα υγείας.

Ο Στιβ Ράθτζε από το Πανεπιστήμιο Carnegie Mellon τονίζει ότι η εξισορρόπηση μεταξύ ακρίβειας και φιλικότητας αποτελεί μία από τις μεγαλύτερες προκλήσεις για το μέλλον της τεχνητής νοημοσύνης. Όπως υπογραμμίζει, η αξιοπιστία είναι κρίσιμη, ειδικά όταν τα chatbots χρησιμοποιούνται για σημαντικά ζητήματα.

Η μελέτη, που δημοσιεύτηκε στο επιστημονικό περιοδικό Nature, αναδεικνύει την ανάγκη για πιο προσεκτικό σχεδιασμό των AI συστημάτων, ώστε να διασφαλίζεται ότι η ανθρώπινη προσέγγιση δεν υπονομεύει την ακρίβεια της πληροφόρησης.

Σχετικό Άρθρο

(Με πληροφορίες Guardian)

Ακολουθήστε την Athens Voice στο Google News κι ενημερωθείτε πρώτοι για όλες τις ειδήσεις

ΕΓΓΡΑΦΕΙΤΕ ΣΤΟ NEWSLETTER ΜΑΣ

Tα καλύτερα άρθρα της ημέρας έρχονται στο mail σου

ΠΡΟΣΦΑΤΑ

ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ

ΕΙΔΗΣΕΙΣ
ΑΠΟΨΕΙΣ
ΘΕΜΑΤΑ
ΣΤΗΛΕΣ

ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ

ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ

ΔΕΙΤΕ ΕΠΙΣΗΣ

Μανώλης Πλειώνης: «Ή θα γίνουμε διαστημικό είδος ή θα εξαφανιστούμε»
Τεχνολογια - Επιστημη Μανώλης Πλειώνης: «Ή θα γίνουμε διαστημικό είδος ή θα εξαφανιστούμε»

Ο αστροφυσικός και πρώην πρόεδρος του Εθνικού Αστεροσκοπείου Αθηνών μιλά στην ATHENS VOICE για έναν πλανήτη που «τρέχει πίσω από τα γεγονότα», τη μάχη για τη Σελήνη και το μέλλον του ανθρώπου πέρα από τη Γη

Λουκάς Βελιδάκης
Η Ευρώπη βάζει όρια στα social media για τα παιδιά – Καραχάλιος: «Μπαίνουμε σε πόλεμο απέναντι στις Big Tech»
Τεχνολογια - Επιστημη Η Ευρώπη βάζει όρια στα social media για τα παιδιά – Καραχάλιος: «Μπαίνουμε στον πόλεμο απέναντι στις Big Tech»

Το μέλος του Special Panel της Κομισιόν Κωνσταντίνος Καραχάλιος μιλά για τη «μεγάλη αιχμαλωσία των παιδιών», ενώ η φον ντερ Λάιεν προαναγγέλλει το EU Kids Act και νέα ηλικιακά όρια για τα social media

Λουκάς Βελιδάκης
Open Cosmos: Τι σημαίνει η χρηματοδότηση των 300 εκατ. ευρώ για «ένα σύστημα που βλέπει, ακούει και αποφασίζει»
Τεχνολογια - Επιστημη Open Cosmos: Τι σημαίνει η χρηματοδότηση των 300 εκατ. ευρώ για τους δορυφόρους που «βλέπουν, ακούν και αποφασίζουν»

Η επικεφαλής της Open Cosmos στην Ελλάδα, Μαρία Καλαμά, μιλά στην ATHENS VOICE για τη νέα χρηματοδότηση και τη θέση που μπορεί να αποκτήσει η Ελλάδα στη νέα ευρωπαϊκή διαστημική οικονομία

Λουκάς Βελιδάκης
Γιώργος Πετρόπουλος: Η AI χτυπά πρώτα τους νέους - Τι πρέπει να κάνει τώρα η Ελλάδα
Τεχνολογια - Επιστημη Γιώργος Πετρόπουλος: Η AI χτυπά πρώτα τους νέους – Τι πρέπει να κάνει τώρα η Ελλάδα

«Οι νέοι είναι αυτοί που δείχνουν να υποφέρουν περισσότερο», λέει στην ATHENS VOICE ο Γιώργος Πετρόπουλος, αναπληρωτής καθηγητής στο University of Southern California

Λουκάς Βελιδάκης

Έχετε δει 20 από 200 άρθρα.

// EMPTY