Πριν από μερικές ημέρες μοντέλα των αμερικανικών εταιρειών τεχνολογίας OpenAI και Anthropic «δραπέτευσαν» από τα περιβάλλοντα δοκιμών τους. Το σύστημα της OpenAI εκτέλεσε 17.600 ενέργειες hacking παραβιάζοντας πλατφόρμες όπως οι Hugging Face και Modal Labs, ενώ λίγο αργότερα η Anthropic παραδέχτηκε ότι και τα δικά της μοντέλα εισέβαλαν ανεξέλεγκτα στα συστήματα τριών εταιρειών. Με την Ουάσινγκτον να εξετάζει νέα μέτρα, ο διευθύνων σύμβουλος της OpenAI Σαμ Αλτμαν αναγνώρισε πως η βιομηχανία ίσως χρειαστεί να επιβραδύνει τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης μετά το «άνευ προηγουμένου» περιστατικό.
Λίγα εικοσιτετράωρα αργότερα μέλη του Κογκρέσου κατέθεσαν το νομοσχέδιο AI Kill Switch Act, απαιτώντας την ενσωμάτωση ενός μηχανισμού άμεσης διακοπής λειτουργίας για κάθε μοντέλο που βγαίνει εκτός ελέγχου. Αφορμή ήταν ένα κενό ασφαλείας, όμως η πραγματική ανησυχία αφορά τους πολέμους του μέλλοντος. Oταν ένα αυτόνομο σύστημα αρχίσει να επιλέγει ποιος ζει και ποιος πεθαίνει, ποιος θα ελέγχει το κουμπί που το απενεργοποιεί;
Οι πόλεμοι κρίνονταν για δεκαετίες από την παραγωγή αρμάτων μάχης, αεροσκαφών και συμβατικών όπλων. Σήμερα το στρατιωτικό πλεονέκτημα στο πεδίο της μάχης μετατοπίζεται στο λογισμικό που αποφασίζει τον στόχο, κατευθύνει αυτόνομα μη επανδρωμένα αεροσκάφη και αναλύει χιλιάδες εικόνες σε πραγματικό χρόνο.
Η μετάβαση προς την ψηφιοποίηση του πολέμου τροφοδοτείται από τεράστια χρηματικά ποσά και στενές σχέσεις μεταξύ των τεχνολογικών κολοσσών και των κέντρων λήψης αποφάσεων.
Το Διεθνές Ινστιτούτο Ερευνών της Στοκχόλμης για την Ειρήνη (SIPRI) κατηγοριοποίησε αυτήν τη νέα αγορά σε τέσσερις ομάδες. Στην πρώτη ανήκουν γνωστές πολεμικές βιομηχανίες, όπως η Lockheed Martin και η RTX, οι οποίες ενσωματώνουν την τεχνητή νοημοσύνη στα υπάρχοντα συστήματά τους. Στη δεύτερη εντάσσει νέες εταιρείες στρατιωτικού λογισμικού, όπως η Palantir και η Anduril, που δημιουργούν προγράμματα ανάλυσης δεδομένων για στρατιωτικές επιχειρήσεις. Ακολουθούν οι κολοσσοί της τεχνολογίας, ανάμεσά τους η Microsoft, η Google και η Amazon, που παρέχουν την απαραίτητη υπολογιστική ισχύ. Η τέταρτη ομάδα περιλαμβάνει τις εταιρείες που αναπτύσσουν τα μεγάλα γλωσσικά μοντέλα, όπως η OpenAI, η Anthropic και η ευρωπαϊκή Mistral.
Οι επιχειρήσεις τεχνητής νοημοσύνης, σύμφωνα με το αμερικανικό περιοδικό «The Bulletin of the Atomic Scientists», έχουν επικεντρωθεί στη χρηματοδότηση με ενδεχόμενο αντάλλαγμα πολιτική επιρροή. Μεταξύ 2022 και 2024 εννέα κορυφαίες εταιρείες ανάπτυξης αλγορίθμων αύξησαν κατά 60% τις χρηματοδοτήσεις τους προς μέλη του Κογκρέσου τα οποία ελέγχουν τις αποφάσεις του Πενταγώνου. Τα χρήματα για την άσκηση πίεσης στον πολεμικό τομέα εκτοξεύτηκαν από 650.000 δολάρια σε 7,7 εκατ. δολάρια μέσα σε μόλις μία δεκαετία.
Η ερευνήτρια Γιούτα Βέμπερ σε ανάλυσή της στο γερμανικό περιοδικό «Luxemburg» εξήγησε τον τρόπο με τον οποίο δημιουργείται ένα νέο αδιαφανές οικοσύστημα από νεοσύστατες επιχειρήσεις ανάπτυξης λογισμικού που ακολουθούν μια λογική γρήγορης μεν, ανεξέλεγκτης δε καινοτομίας. Εταιρείες όπως η γερμανική Helsing αποτιμώνται σε δισεκατομμύρια δολάρια ακριβώς επειδή εφαρμόζουν ταχείς κύκλους καινοτομίας, στέλνοντας κάθε εβδομάδα νέες ενημερώσεις στα drones στο μέτωπο της Ουκρανίας.
Ο διευθύνων σύμβουλος της Palantir Aλεξ Καρπ παρομοίωσε τις εξελίξεις με τη δημιουργία της ατομικής βόμβας, χαρακτηρίζοντάς τη «στιγμή Οπενχάιμερ», καθώς η τεχνολογική επένδυση για αποτροπή πολέμων απηχεί τη λογική δημιουργίας του πυρηνικού προγράμματος.
Η σταδιακή παράδοση του ελέγχου στις μηχανές γεννά σοβαρούς ηθικούς προβληματισμούς. Νωρίτερα φέτος η Anthropic ζήτησε από τον αμερικανικό στρατό να μη χρησιμοποιεί το δικό της μοντέλο σε όπλα που επιλέγουν στόχους χωρίς ανθρώπινη παρέμβαση, θεωρώντας το ασταθές για αποφάσεις ζωής και θανάτου. Το Πεντάγωνο αρνήθηκε, χαρακτηρίζοντας την εταιρεία «κίνδυνο για την αλυσίδα εφοδιασμού» και αποκλείοντάς τη από μελλοντικές κρατικές συμβάσεις.
Το χτύπημα στο σχολείο της πόλης Μινάμπ στο Ιράν, που βασίστηκε σε παρωχημένα δεδομένα δεκαετίας, τα οποία το σύστημα απέτυχε να φιλτράρει, αποδεικνύει αυτές τις ολέθριες συνέπειες. Ο Αβνερ Γκβαριάχου, ερευνητής του Πανεπιστημίου της Οξφόρδης, επισήμανε στη βρετανική εφημερίδα «The Guardian» ότι η λογοδοσία διαχέεται πλέον ανάμεσα σε προγραμματιστές, προμηθευτές και αξιωματικούς. Οι αποφάσεις λαμβάνονται από συστήματα που δεν μπορούν να εξηγήσουν τη συλλογιστική τους. Ο ίδιος τόνισε ότι η μοναδική παρέμβαση του αμερικανικού κράτους ήταν για να ζητήσει μεγαλύτερη φονική ικανότητα.
Στις σημερινές ένοπλες συγκρούσεις η ανθρώπινη παρουσία περιορίζεται συχνά σε μια τυπική έγκριση ελάχιστων δευτερολέπτων για κάθε προτεινόμενο στόχο. Η Εζμπα Ουαλαγιάτ Χαν, ερευνήτρια στο Centre for Aerospace and Security Studies, εξηγεί στην ειδησεογραφική ιστοσελίδα Modern Diplomacy ότι η ψυχολογική πίεση στο πεδίο της μάχης οδηγεί τους χειριστές να εμπιστεύονται τυφλά τις προτάσεις του λογισμικού. Οσο η ταχύτητα ανάλυσης δεδομένων μεγαλώνει τόσο μειώνεται ο χρόνος για ανθρώπινη αξιολόγηση, αφήνοντας την τελική επιλογή σε κώδικες που κανείς δεν κατανοεί πλήρως πώς λειτουργούν.
Ποιος θα ελέγχει τον διακόπτη κινδύνου;
Ο διακόπτης κινδύνου παρουσιάζεται ως εγγύηση ότι ο άνθρωπος διατηρεί τον έλεγχο. Το χέρι ωστόσο που καλείται να τον πατήσει ανήκει στην ίδια βιομηχανία που αυξάνει τα κέρδη της όσο τα συστήματά της παραμένουν ενεργά, χρηματοδοτώντας νομοθέτες και ανταγωνιζόμενη για το επόμενο συμβόλαιο. Το δίλημμα συνόψισε ο Τζακ Κλαρκ, συνιδρυτής της Anthropic, μιλώντας στο δίκτυο BBC, παρομοιάζοντας τη βιομηχανία με όχημα που διαθέτει μόνο πεντάλ επιτάχυνσης, χωρίς φρένο. Οπως υπενθύμισε η Διεθνής Επιτροπή του Ερυθρού Σταυρού, η ευθύνη για τη χρήση βίας ανήκει στους ανθρώπους. Το διακύβευμα εντοπίζεται στο ποιος ελέγχει τα χέρια που κρατούν τον διακόπτη και ποια συμφέροντα εξυπηρετεί η απενεργοποίηση.
documentonews.gr
