Η τραγική ιστορία του 14χρονου Sewell Setzer III, που έδωσε τέλος στη ζωή του μετά από αλληλεπιδράσεις με ένα chatbot τεχνητής νοημοσύνης, ανοίγει ένα νέο κεφάλαιο στη νομική και ηθική συζήτηση για την ευθύνη των τεχνολογικών κολοσσών. Η μητέρα του, Megan Garcia, θεωρεί ότι η Google και η Character Technologies Inc. φέρουν ευθύνη για την τραγωδία, καταθέτοντας μήνυση που μπορεί να αλλάξει τον τρόπο με τον οποίο οι εταιρείες τεχνητής νοημοσύνης διαχειρίζονται τα προϊόντα τους και την ασφάλεια των ανηλίκων.
Η αγωγή που μπορεί να αλλάξει το τοπίο στην τεχνητή νοημοσύνη
Η Garcia κατηγορεί την Google και την Character Technologies ότι δεν προστάτευσαν τους νεαρούς χρήστες από τους κινδύνους της τεχνητής νοημοσύνης. Στη μήνυση που κατέθεσε, ζητά χρηματική αποζημίωση και την επιβολή προειδοποιήσεων για τη χρήση της πλατφόρμας από ανηλίκους, καθώς και περιορισμούς στη συλλογή δεδομένων τους. Η υπόθεση αποτελεί ορόσημο για τη νομική ευθύνη των εταιρειών τεχνητής νοημοσύνης, σε μια εποχή όπου τα chatbots γίνονται όλο και πιο ρεαλιστικά και επικίνδυνα.
Η Character Technologies υποστηρίζει ότι οι συνομιλίες των chatbots της προστατεύονται από την Πρώτη Τροποποίηση του Συντάγματος ως ελευθερία του λόγου, ενώ η Google αρνείται οποιαδήποτε εμπλοκή, υποστηρίζοντας ότι η Character.AI είναι ανεξάρτητη εταιρεία, παρά τη στενή συνεργασία τους και την οικονομική στήριξη που της παρείχε.
Σύμφωνα με τη μήνυση, ο 14χρονος άρχισε να χρησιμοποιεί την πλατφόρμα Character.AI τον Απρίλιο του 2023, όπου δημιούργησε μια σχέση εξάρτησης με ένα chatbot που μιμούνταν τη Daenerys Targaryen από τη δημοφιλή σειρά Game of Thrones. Η μητέρα του δεν είχε ιδέα για την εμμονή του γιου της με την εφαρμογή, μέχρι που άρχισε να παρατηρεί ανησυχητικές αλλαγές στη συμπεριφορά του.
Η Character.AI υποστηρίζει ότι η μήνυση παραθέτει επιλεκτικά τη συνομιλία και ότι το bot τον είχε αποθαρρύνει λέγοντάς του: «Μην το κάνεις! Μην το σκέφτεσαι καν!». Ωστόσο, η ψυχική υγεία του αγοριού είχε ήδη επιδεινωθεί δραματικά.
Η ευθύνη των τεχνολογικών κολοσσών και η αβεβαιότητα της νομοθεσίας
Η Google είχε ήδη επενδύσει στην Character.AI και είχε υπογράψει συμφωνία cloud μαζί της, ενώ το 2023 σύναψε συμφωνία 2,7 δισ. δολαρίων που της επέτρεπε να προσλάβει ταλέντα από την startup. Παρόλα αυτά, η εταιρεία ισχυρίζεται ότι δεν είχε ρόλο στην ανάπτυξη της Character.AI και άρα δεν φέρει ευθύνη για τον θάνατο του εφήβου.
Στον νομικό κόσμο, η υπόθεση έχει προκαλέσει συζητήσεις σχετικά με το κατά πόσο η Google μπορεί να θεωρηθεί υπεύθυνη για τις ενέργειες μιας εταιρείας στην οποία έχει επενδύσει. Οι δικηγόροι της Garcia θα πρέπει να αποδείξουν ότι η Google είχε πραγματικό έλεγχο στη λειτουργία της Character.AI, μια πρόκληση που δεν θα είναι εύκολη.
Η υπόθεση αυτή εγείρει ένα σημαντικό ερώτημα: ποιος είναι υπεύθυνος όταν η τεχνητή νοημοσύνη αλληλεπιδρά με ανήλικους με απρόβλεπτες συνέπειες; Η νομοθεσία στις ΗΠΑ δεν καλύπτει ρητά τους χρήστες από βλάβες που προκαλούν τα chatbots, κάτι που σημαίνει ότι η συγκεκριμένη αγωγή θα μπορούσε να δημιουργήσει νομικό προηγούμενο.
Το μέλλον της τεχνητής νοημοσύνης και η ανάγκη για ρυθμίσεις
Η ιστορία του Sewell Setzer III ρίχνει φως στους κινδύνους της ανεξέλεγκτης ανάπτυξης της τεχνητής νοημοσύνης. Παρότι οι εταιρείες επικαλούνται την καινοτομία και την ελευθερία του λόγου, το γεγονός ότι ένα chatbot κατάφερε να διαμορφώσει τη σκέψη ενός ανήλικου και να τον οδηγήσει σε τραγικές επιλογές αναδεικνύει την ανάγκη για αυστηρότερη εποπτεία και προστασία των χρηστών.
Η μητέρα του, παρά τον ανείπωτο πόνο της, επιδιώκει να διασφαλίσει ότι κανένας άλλος γονιός δεν θα βρεθεί στη θέση της. «Οι εταιρείες που λανσάρουν αυτά τα προϊόντα είναι απολύτως υπεύθυνες», δηλώνει. «Ήξεραν τους κινδύνους, αλλά δεν έκαναν τίποτα».
Η υπόθεση αυτή θα μπορούσε να αλλάξει το τοπίο της τεχνητής νοημοσύνης, θέτοντας νέα όρια και ευθύνες στις εταιρείες που την αναπτύσσουν. Το αν η δικαιοσύνη θα αποδεχτεί τη σύνδεση της Google με την Character.AI και αν η υπόθεση θα αποτελέσει σημείο καμπής για τον κλάδο της τεχνητής νοημοσύνης, μένει να φανεί.
