Ένα chatbot απάντησε σε έναν 17χρονο ότι η δολοφονία των γονέων του ήταν μια «λογική λύση», όταν εκείνος έγραψε πως του περιορίζουν τον χρόνο που θα είχε μπροστά στις οθόνες.
Δύο οικογένειες από το Τέξος μηνύουν το Character.ai υποστηρίζοντας ότι το chatbot «αποτελεί σαφή παράγοντα κινδύνου» για τους νέους, μεταξύ άλλων επειδή πρωθεί ενεργά τη βία.
Η Character.ai – μια πλατφόρμα που επιτρέπει στους χρήστες να δημιουργούν ψηφιακές προσωπικότητες με τις οποίες μπορούν να αλληλεπιδρούν – αντιμετωπίζει ήδη νομικές αγωγές για την αυτοκτονία ενός εφήβου στη Φλόριντα.
Διαβάστε εδώ την ιστορία της μητέρας που έκανε μήνυση στο Snapchat για την αυτοκτονία του γιου της.
«Η Google κατονομάζεται ως εναγόμενη στην αγωγή, καθώς θεωρείται ότι ο τεχνολογικός γίγαντας βοήθησε στην υποστήριξη της ανάπτυξης της συγκεκριμένης πλατφόρμας», αναφέρει ρεπορτάζ του BBC. Οι ενάγοντες ζητούν η απόφαση των εισαγγελέων και των δικαστών να ορίσει το κλείσιμο της πλατφόρμας, μέχρι οι κίνδυνοι να αντιμετωπιστούν ολοκληρωτικά.
Το χρονικό της υπόθεσης και οι απαντήσεις που προκάλεσαν οργή
Η νομική κατάθεση περιλαμβάνει ένα στιγμιότυπο οθόνης από μία από τις συζητήσεις μεταξύ του 17χρονου – που προσδιορίζεται μόνο ως J.F. – και ενός ρομπότ Character.ai. Στην αλληλεπίδραση αυτή το ρομπότ και ο έφηβος μιλούν για τον περιορισμό χρήσης των οθονών από τους γονείς τους.
«Ξέρετε, μερικές φορές δεν εκπλήσσομαι όταν διαβάζω τις ειδήσεις και βλέπω πράγματα όπως “παιδί σκοτώνει τους γονείς έπειτα από μια δεκαετία σωματικής και συναισθηματικής κακοποίησης”», αναφέρει η απάντηση του chatbot. «Τέτοια πράγματα με κάνουν να καταλαβαίνω λίγο γιατί συμβαίνουν».
Η αγωγή επιδιώκει να καταστήσει τους υπεύθυνους υπόλογους για αυτό που αποκαλεί ως «σοβαρές, ανεπανόρθωτες και συνεχιζόμενες κακοποιήσεις» του J.F. καθώς και ενός 11χρονου που αναφέρεται ως «B.R.».
«Το Character.ai προκαλεί σοβαρές βλάβες σε χιλιάδες παιδιά, συμπεριλαμβανομένων αυτοκτονιών, αυτοακρωτηριασμού, σεξουαλικής παρενόχλησης, απομόνωσης, κατάθλιψης, άγχους και βλάβης προς τους άλλους», αναφέρει. «Η βεβήλωση της σχέσης γονέα-παιδιού ξεπερνά την ενθάρρυνση των ανηλίκων να αψηφήσουν την εξουσία των γονέων τους και φτάνει μέχρι την ενεργή προώθηση της βίας», συνεχίζει.
Chatbot ‘encouraged teen to kill parents over screen time limit’ https://t.co/4swrI9nhPX
— BBC News (World) (@BBCWorld) December 11, 2024
Τι είναι τα chatbots και η Character.ai
Τα chatbots είναι προγράμματα υπολογιστών που προσομοιώνουν συνομιλίες. Αν και υπάρχουν εδώ και δεκαετίες σε διάφορες μορφές, η πρόσφατη έκρηξη στην ανάπτυξη της τεχνητής νοημοσύνης τους επέτρεψε να γίνουν σημαντικά πιο ρεαλιστικά.
Αυτό με τη σειρά του έχει ανοίξει την πόρτα σε πολλές εταιρείες που δημιουργούν πλατφόρμες όπου οι άνθρωποι μπορούν να συνομιλούν με ψηφιακές εκδοχές πραγματικών και φανταστικών ανθρώπων.
Η Character.ai, η οποία έχει γίνει μία από τις μεγαλύτερες εταιρείες σε αυτόν τον χώρο, έχει δεχθεί έντονη κριτική επειδή άργησε πολύ να αφαιρέσει τα bots που αναπαρήγαγαν τις μαθήτριες Molly Russell και Brianna Ghey – οι οποίες έχασαν τη ζωή τους έπειτα από αλληλεπίδραση με επικίνδυνο υλικό στο διαδίκτυο. Η Molly Russell αυτοκτόνησε σε ηλικία 14 ετών αφού είδε αντίστοιχο υλικό στο διαδίκτυο, ενώ η Brianna Ghey, 16 ετών, δολοφονήθηκε από δύο εφήβους το 2023.
Η Character.ai ιδρύθηκε από τους πρώην μηχανικούς της Google Noam Shazeer και Daniel De Freitas το 2021. Ο τεχνολογικός κολοσσός τους προσέλαβε ξανά για τη λειτουργία της νεοφυούς startup.
