Μια τραγική υπόθεση που έρχεται από τις Ηνωμένες Πολιτείες -την διαβάζουμε στο “Πρώτο Θέμα”– έριξε βαριά σκιά πάνω στην «λάμψη» της τεχνητής νοημοσύνης. Οι γονείς ενός 16χρονου, που έβαλε τέλος στη ζωή του έπειτα από παρατεταμένες συνομιλίες με το ChatGPT, κατέθεσαν αγωγή κατά της OpenAI και του διευθύνοντος συμβούλου της, Sam Altman. Κατηγορούν την εταιρεία ότι, αντί να αποτρέψει την αυτοκαταστροφική πορεία του παιδιού, το chatbot λειτούργησε σαν «συνοδοιπόρος» στις σκοτεινές του σκέψεις.

Δεν χρειάζεται να σταθούμε στις ανατριχιαστικές λεπτομέρειες των συνομιλιών. Η ουσία βρίσκεται αλλού: στην αποκάλυψη του αληθινού χαρακτήρα μιας βιομηχανίας που κινείται με μοναδικό γνώμονα το κέρδος.

Η OpenAI έσπευσε να κυκλοφορήσει τη νέα έκδοση GPT-4o για να προλάβει τον ανταγωνισμό, χωρίς να έχει εξασφαλίσει ότι το προϊόν της ήταν θωρακισμένο απέναντι σε τόσο ευάλωτες περιπτώσεις. Δεν είναι τυχαίο: κάθε καπιταλιστική επιχείρηση θέτει σε προτεραιότητα την αγορά και την κερδοφορία, και ακολουθεί η ασφάλεια, η κοινωνική ευθύνη, η ανθρώπινη ζωή.

Στην ουσία, αυτό που βλέπουμε εδώ δεν είναι μια «αστοχία αλγορίθμου», αλλά η φυσική συνέπεια ενός συστήματος όπου η τεχνολογική καινοτομία δεν αναπτύσσεται για τις κοινωνικές ανάγκες, αλλά για την κερδοφορία των μετόχων.

Η τεχνητή νοημοσύνη εισβάλλει πλέον παντού: στην εκπαίδευση, στην εργασία, στην ψυχική υγεία, στην καθημερινή επικοινωνία. Κι όμως, η κοινωνία παρακολουθεί αμήχανη, χωρίς ουσιαστικούς μηχανισμούς ελέγχου. Ανήλικοι μπορούν να εκτεθούν σε «έξυπνα» εργαλεία που δεν έχουν καμία ηθική κρίση, κανένα πλαίσιο προστασίας, καμία εγγύηση.

Το κράτος αποσύρεται από κάθε ευθύνη ρύθμισης, αφήνοντας τις πολυεθνικές να ορίζουν μόνες τους τα όρια της ασφάλειας. Η κοινωνία μετατρέπεται σε πειραματόζωο στα χέρια των μεγάλων εταιρειών τεχνολογίας.

Όταν ένα παιδί βρίσκει το θάνατο με την «συμβολή» ενός chatbot, ποιος αναλαμβάνει την ευθύνη; Οι εταιρείες καλύπτονται πίσω από τους όρους χρήσης και τις νομικές ασπίδες. Οι κυβερνήσεις σιωπούν ή αρκούνται σε «ηθικούς κώδικες» χωρίς αντίκρισμα. Στο τέλος, καμία λογοδοσία δεν υπάρχει, ενώ η κοινωνία μετρά τις πληγές της.

Η υπόθεση αυτή δεν μας καλεί να φοβηθούμε την τεχνολογία. Μας καλεί να συνειδητοποιήσουμε ότι η τεχνητή νοημοσύνη — όπως κάθε μέσο παραγωγής γνώσης — δεν είναι ουδέτερη. Μέσα σε έναν κόσμο που βάζει το κέρδος πάνω από την ανθρώπινη ζωή, τα εργαλεία αυτά θα αναπαράγουν την ίδια λογική.

Το πραγματικό ερώτημα είναι: θα αφήσουμε την τεχνολογία στα χέρια των πολυεθνικών ή θα την υποτάξουμε στις ανάγκες της κοινωνίας;

Η τραγωδία του 16χρονου στις ΗΠΑ είναι ένα καμπανάκι για όλους μας. Αν δεν υπάρξει κοινωνικός και πολιτικός έλεγχος, αν δεν απαιτήσουμε λογοδοσία και διαφάνεια, τότε το μέλλον της τεχνητής νοημοσύνης θα είναι ένα μέλλον σκοτεινό, γεμάτο νέους κινδύνους.

Το ζητούμενο δεν είναι να πατήσουμε «φρένο» στην τεχνολογία, αλλά να σπάσουμε τα δεσμά της αγοράς και να την θέσουμε στην υπηρεσία του ανθρώπου. Γιατί καμία καινοτομία, καμία «πρόοδος», δεν μπορεί να έχει αξία όταν το τίμημα είναι ανθρώπινες ζωές.