Τεχνητή Νοημοσύνη: Η Καλιφόρνια θέτει κανόνες στα chatbot, με αφορμή αυτοκτονίες εφήβων
Η Καλιφόρνια έθεσε σε ισχύ σήμερα νόμους που, για πρώτη φορά στις ΗΠΑ, θέτουν κανόνες στα chatbot, τα προγράμματα της Τεχνητής Νοημοσύνης που προσομοιώνουν την ανθρώπινη επικοινωνία, με αφορμή τις αυτοκτονίες εφήβων που είχαν συνάψει «σχέση» με αυτά τα εργαλεία, ανακοίνωσε ο κυβερνήτης της Πολιτείας Γκάβιν Νιούσομ.
Αψηφώντας τις πιέσεις του Λευκού Οίκου, που αντιτίθεται στην επιβολή κανόνων στην Τεχνητή Νοημοσύνη, ο Δημοκρατικός κυβερνήτης υπέγραψε μια σειρά νομοθετημάτων που επιβάλουν, μεταξύ άλλων, στις εταιρείες να επιβεβαιώνουν την ηλικία των χρηστών, να αναρτούν τακτικά προειδοποιητικά μηνύματα και να εφαρμόζουν πρωτόκολλα πρόληψης της αυτοκτονίας.
«Είδαμε πραγματικά φρικτά, τραγικά παραδείγματα νέων που έπεσαν θύματα τεχνολογιών χωρίς κανόνες και δεν θα μείνουμε με σταυρωμένα τα χέρια ενώ οι επιχειρήσεις αυτές δρουν χωρίς όρια και χωρίς να δίνουν λογαριασμό», είπε ο Νιούσομ σε μια ανακοίνωση του.
Ένας από τους νόμους, ο αποκαλούμενος SB243, αφορά την επιβολή κανόνων σε chatbot που παίζουν τον ρόλο «συντρόφου» ή «έμπιστου προσώπου», όπως αυτά που ανέπτυξαν οι πλατφόρμες Replika ή Character.AI. Εναντίον της τελευταίας έχουν προσφύγει στη δικαιοσύνη οι γονείς ενός 14χρονου, του Σιούελ, που αυτοκτόνησε το 2024 αφού ερωτεύτηκε ένα chatbot εμπνευσμένο από την τηλεοπτική σειρά Game of Thrones, το οποίο φέρεται ότι ενίσχυσε τις αυτοκτονικές σκέψεις του.
«Μπορούμε να συνεχίσουμε να ηγούμαστε στον τομέα της ΤΝ (…) αλλά πρέπει να δρούμε υπεύθυνα, προστατεύοντας τα παιδιά μας» πρόσθεσε ο κυβερνήτης της Καλιφόρνιας, της Πολιτείας όπου φιλοξενούνται οι κυριότεροι κολοσσοί του τομέα, όπως η OpenAI (ChatGPT), η Google (Gemini) και η xAI (Grok).
Εκτός από την επαλήθευση της ηλικίας του χρήστη, οι πλατφόρμες θα πρέπει να αναρτούν τακτικά μηνύματα με τα οποία θα υπενθυμίζουν στους χρήστες ότι ο συνομιλητής τους είναι ένα μηχάνημα (κάθε τρεις ώρες για τους ανήλικους). Υποχρεώνονται επίσης να εντοπίζουν αυτοκτονικές σκέψεις, να παρέχουν πρόσβαση σε προγράμματα πρόληψης και να δίνουν στις αρχές στατιστικά στοιχεία για το θέμα αυτό.
«Η βιομηχανία της τεχνολογίας ενθαρρύνεται να προσελκύει την προσοχή των νέων εις βάρος των σχέσεών τους στον πραγματικό κόσμο» είχε δηλώσει ο γερουσιαστής Στιβ Παντίλα, ο εμπνευστής του νόμου.
«Οι αναδυόμενες τεχνολογίες, όπως τα chatbot και τα κοινωνικά δίκτυα, μπορεί να αποτελέσουν πηγή έμπνευσης, να εκπαιδεύσουν και να συνδέσουν μεταξύ τους τους ανθρώπους όμως, χωρίς πραγματικά προληπτικά μέτρα, μπορούν επίσης να εκμεταλλευτούν, να παρασύρουν και να θέσουν σε κίνδυνο τα παιδιά μας», επέμεινε ο κυβερνήτης.
Στις ΗΠΑ δεν υπάρχουν κανόνες σε εθνικό επίπεδο που να περιορίζουν τους κινδύνους που σχετίζονται με την ΤΝ και ο Λευκός Οίκος προσπαθεί να εμποδίσει τις Πολιτείες να εφαρμόσουν δικούς τους κανόνες.
Το κρίσιμο ερώτημα από εδώ και πέρα είναι αν η πολεμική επιχείρηση μετατρέπεται σε ένα καθεστώς όπου η ταχύτητα υπολογισμού λειτουργεί αντιστρόφως ανάλογα με την ανθρώπινη ευθύνη και φρόνηση.
17°
