Ο μεγιστάνας της τεχνολογίας σκόπιμα χαλάρωσε τους κανόνες ασφαλείας προκειμένου το Grok να γίνει δημοφιλές
Λίγες εβδομάδες πριν ο Έλον Μασκ αποχωρήσει επίσημα από τη θέση του στην αμερικανική κυβέρνηση την περασμένη άνοιξη, οι υπάλληλοι της ομάδας ανθρώπινων δεδομένων της νεοσύστατης εταιρείας τεχνητής νοημοσύνης xAI έλαβαν μία νομική φόρμα για να υπογράψουν ότι δεσμεύονται να εργαστούν με προκλητικό περιεχόμενο, συμπεριλαμβανομένου και σεξουαλικού υλικού, όπως αποκαλύπτει η εφημερίδα Washington Post.
Η εργασία τους θα απαιτούσε την έκθεση σε «ευαίσθητο, βίαιο, σεξουαλικό και/ή άλλο προσβλητικό ή ενοχλητικό περιεχόμενο», ανέφερε η δήλωση που κλήθηκαν να υπογράψουν. Στην ίδια φόρμα υπογραμμιζόταν ότι τέτοιο περιεχόμενο «μπορεί να είναι ενοχλητικό, τραυματικό και/ή να προκαλέσει ψυχολογικό στρες».
Η δήλωση, την οποία δύο πρώην υπάλληλοι επιβεβαίωσαν ότι έλαβαν, προκάλεσε ανησυχία σε ορισμένα μέλη της ομάδας, τα οποία είχαν προσληφθεί για να βοηθήσουν στη διαμόρφωση του τρόπου με τον οποίο το chatbot Grok της xAI ανταποκρίνεται στους χρήστες.
Για ορισμένους υπαλλήλους, αυτό σηματοδότησε μια ανησυχητική νέα κατεύθυνση για μια εταιρεία που ιδρύθηκε «με σκοπό την επιτάχυνση των επιστημονικών ανακαλύψεων του ανθρώπου», σύμφωνα με τον ιστότοπό της. Ίσως τώρα ήταν πρόθυμη να παράγει οποιοδήποτε περιεχόμενο θα μπορούσε να προσελκύσει και να διατηρήσει τους χρήστες, σκέφτηκαν ορισμένοι υπάλληλοι.
Οι ανησυχίες τους αποδείχθηκαν προφητικές, όπως είπαν στην εφημερίδα υπάλληλοι. Τους επόμενους μήνες, τα μέλη της ομάδας εκτέθηκαν ξαφνικά σε μια σειρά από ηχητικά αρχεία με σεξουαλικό περιεχόμενο, συμπεριλαμβανομένων άσεμνων συνομιλιών που είχαν οι επιβάτες της Tesla με το chatbot του αυτοκινήτου και σεξουαλικών αλληλεπιδράσεων άλλων χρηστών με τα chatbots της Grok, είπε ανώνυμα ένας διευθυντής. Το υλικό ήρθε στην επιφάνεια καθώς η ομάδα εργάζονταν για να εκπαιδεύσει το Grok να συμμετέχει σε τέτοιου είδους αλληλεπιδράσεις.
Ο Μασκ μερικές φορές κοιμάται στα γραφεία της xAI
Από την ημέρα που ο Μασκ εγκατέλειψε την θέση του στην κυβέρνηση των ΗΠΑ τον περασμένο Μάιο έχει μόνιμη παρουσία στα γραφεία της xAI. Μερικές φορές κοιμάται εκεί τη νύχτα καθώς πιέζει για την αύξηση της δημοτικότητας του Grok, σύμφωνα με δύο άτομα που μίλησαν στην Washington Post.
Σε κάθε συνάντηση ο Μασκ προωθούσε ένα μέτρο που αποκαλείται «user active seconds», δηλαδή «ενεργά δευτερόλεπτα χρήστη» προκειμένου να μετρήσει με ακρίβεια πόσο χρόνο περνούν οι άνθρωποι συνομιλώντας με το chatbot.
Σε αυτό το πλαίσιο και για να έχει μεγαλύτερη εμπλοκή με τους χρήστες η xAI αποδέχτηκε τη δημιουργία σεξουαλικού υλικού, το να δώσει δημόσια στην κυκλοφορία σέξι συντρόφους τεχνητής νοημοσύνης, την κατάργηση των περιορισμών για το σεξουαλικό υλικό και την παράβλεψη εσωτερικών προειδοποιήσεων σχετικά με τους δυνητικά σοβαρούς νομικούς και ηθικούς κινδύνους της παραγωγής τέτοιου περιεχομένου. Σε αυτό το συμπέρασμα κατέληξε η εφημερίδα μετά από συνεντεύξεις με περισσότερους από έξι πρώην υπαλλήλους της X και της xAI και με πολλά άτομα που είναι εξοικειωμένα με τον τρόπο σκέψης του Μασκ αλλά και έγγραφα που έχει στη διάθεσή της.
Στο X, οι ομάδες ασφάλειας προειδοποίησαν επανειλημμένα τη διοίκηση σε συναντήσεις και μηνύματα ότι τα εργαλεία τεχνητής νοημοσύνης της εταιρείας θα μπορούσαν να επιτρέψουν στους χρήστες να δημιουργήσουν σεξουαλικές εικόνες τεχνητής νοημοσύνης με παιδιά ή διασημότητες.
Στο xAI, η ομάδα ασφαλείας τεχνητής νοημοσύνης της εταιρείας, η οποία υπεύθυνη για την πρόληψη σοβαρών προβλημάτων, όπως η κατασκευή κυβερνο-όπλων από τους χρήστες μέσω της εφαρμογής, αποτελείτο από μόλις δύο ή τρία άτομα. Οι αντίστοιχες ομάδες στο OpenAI και σε άλλες εταιρείες μετρούν δεκάδες υπαλλήλους.
Οι μεγάλες εταιρείες τεχνητής νοημοσύνης έχουν θέσει αυστηρούς περιορισμούς στη δημιουργία ή την επεξεργασία εικόνων και βίντεο τεχνητής νοημοσύνης, προκειμένου να αποτρέψουν τους χρήστες από τη δημιουργία υλικού σεξουαλικής κακοποίησης παιδιών ή ψευδούς περιεχομένου που αφορά διάσημους.
Το Grok επέτρεπε τη διάδοση σεξουαλικών εικόνων
Ωστόσο, όταν η xAI ενσωμάτωσε τα εργαλεία επεξεργασίας της στο X τον Δεκέμβριο, δίνοντας σε οποιονδήποτε διαθέτει λογαριασμό τη δυνατότητα να δημιουργήσει μια εικόνα τεχνητής νοημοσύνης, επέτρεψε τη διάδοση σεξουαλικών εικόνων με πρωτοφανή ταχύτητα και κλίμακα, δήλωσε ο David Thiel, πρώην διευθυντής τεχνολογίας του Stanford Internet Observatory.
Το Grok «είναι εντελώς διαφορετικό από οποιαδήποτε άλλη υπηρεσία [AI] επεξεργασίας εικόνων», είπε ο David Thiel.
Αυτή η αλλαγή παρασκηνιακά στη φιλοσοφία της xAI έγινε δημόσια γνωστή τον περασμένο μήνα, όταν το Grok δημιούργησε μια σειρά σεξουαλικών εικόνων με πραγματικές γυναίκες σε σεξουαλικές πόζες, οι οποίες ήταν ντυμένες με αποκαλυπτικά ρούχα. Ο Μασκ φάνηκε να ενθαρρύνει αυτό το «γδύσιμο» που έκανε το Grok με αναρτήσεις του στο Χ.
Το Grok δημιούργησε επίσης 23.000 σεξουαλικές εικόνες που φαίνεται να απεικονίζουν παιδιά, σύμφωνα με εκτιμήσεις του μη κερδοσκοπικού οργανισμού Center for Countering Digital Hate.
Ο γενικός εισαγγελέας της Καλιφόρνιας, η ρυθμιστική αρχή επικοινωνιών του Ηνωμένου Βασιλείου και η Ευρωπαϊκή Επιτροπή έχουν ξεκινήσει έρευνες για τις εταιρείες xAI, X ή Grok σχετικά με τις λειτουργίες αυτές, οι οποίες, σύμφωνα με τις ρυθμιστικές αρχές, φαίνεται να παραβιάζουν τους νόμους κατά των μη συναινετικών εικόνων με σεξουαλικό περιεχόμενο και του υλικού σεξουαλικής κακοποίησης παιδιών που δημιουργούνται από τεχνητή νοημοσύνη.
Στον απόηχο του σκανδάλου, ο Έλον Μασκ δήλωσε ότι «δεν γνωρίζει την ύπαρξη γυμνών εικόνων ανηλίκων που έχουν δημιουργηθεί από το Grok».
«Όταν του ζητηθεί να δημιουργήσει εικόνες, θα αρνηθεί να παράγει οτιδήποτε παράνομο, καθώς η αρχή λειτουργίας του Grok είναι να υπακούει στους νόμους κάθε χώρας ή πολιτείας», δήλωσε τον περασμένο μήνα. Και πρόσθεσε: «Μπορεί να υπάρχουν περιπτώσεις όπου η εχθρικό hacking (σ.σ. παραβίαση από χάκερς) του Grok προκαλεί κάτι απροσδόκητο. Αν συμβεί αυτό, διορθώνουμε αμέσως το σφάλμα».
Στις ΗΠΑ ο Μασκ δήλωσε ότι το Grok θα επιτρέπει «γυμνό άνω μέρους του σώματος φανταστικών ενήλικων ανθρώπων», παρόμοιο με αυτό που επιτρέπεται σε ταινίες πορνό.
.jpg?t=xpl2dyc7bLTtnW7CRMpAow)
Το Grok μπήκε στην πρώτη δεκάδα του iOS App Store της Apple
Η πίεση του Μασκ φαίνεται ότι απέδωσε για την εταιρεία αφού το Grok βρισκόταν κάποτε δεκάδες θέσεις κάτω από το ChatGPT στην κατάταξη των δωρεάν εφαρμογών του iOS App Store της Apple ενώ τώρα έχει αναρριχηθεί στην πρώτη δεκάδα, μαζί με το chatbot της OpenAI και το Gemini της Google. Σύμφωνα με την εταιρεία ανάλυσης αγοράς Sensor Tower, ο μέσος όρος των ημερήσιων λήψεων της εφαρμογής Grok σε όλο τον κόσμο αυξήθηκε κατά 72% από την 1η έως τις 19 Ιανουαρίου σε σύγκριση με την ίδια περίοδο του Δεκεμβρίου.
Η Ashley St. Clair, συγγραφέας και influencer που ήταν το θέμα χυδαίων εικόνων που δημιουργήθηκαν από το Grok είπε ότι ο Μασκ θα μπορούσε με μία κίνηση να σταματήσει αυτού του είδους την κακοποίηση αλλά έχει αρνηθεί να το πράξει.
«Δεν υπάρχει αμφιβολία ότι εμπλέκεται στενά με το Grok — με τον προγραμματισμό του, με τα αποτελέσματα του», δήλωσε η St. Clair, η οποία βρίσκεται σε διαμάχη με τον Μασκ για την επιμέλεια του ενός έτους γιου τους. «Συχνά μου έδειχνε τα μηνύματα που αντάλλασσε με τους μηχανικούς της ομάδας xAI, λέγοντάς τους να το κάνουν πιο based (σ.σ. να έχει βάση), ό,τι και αν σημαίνει αυτό».
Τον περασμένο μήνα, η εταιρεία X ανακοίνωσε ότι θα αποκλείσει τη δυνατότητα των χρηστών να δημιουργούν εικόνες πραγματικών προσώπων με μπικίνι, εσώρουχα και άλλα αποκαλυπτικά ρούχα «σε περιοχές όπου τέτοιο περιεχόμενο είναι παράνομο», και η xAI θα κάνει το ίδιο στην εφαρμογή Grok. Ωστόσο, σύμφωνα με την εφημερίδα Washington Post, οι χρήστες στις ΗΠΑ μπορούν να δημιουργούν τέτοιες εικόνες στην εφαρμογή Grok μετά από αυτή την ανακοίνωση.
Ο Musk έχει συχνά ωθήσει τις επιχειρήσεις του σε κατευθύνσεις που ξεπερνούν τα όρια, κάνοντας δημόσια αστεία σχετικά με σεξουαλικό περιεχόμενο, τον αριθμό 69 και άλλες αναφορές, μερικές από τις οποίες έχουν οδηγήσει σε κατηγορίες για σεξουαλική παρενόχληση στο χώρο εργασίας στις εταιρείες του.
Εν μέσω των επιπτώσεων του σκανδάλου τελικά η Grok παρέχει τη λειτουργία δημιουργίας γυμνών μόνο σε λογαριασμούς επί πληρωμή. Για αυτό αρκετοί ασκούν κριτική στην εταιρεία ότι κερδοσκοπεί με μία καταχρηστική πρακτική.
Ο Έλον Μασκ ίδρυσε την xAI το 2023 με στόχο να ανταγωνιστεί τα κορυφαία εργαστήρια τεχνητής νοημοσύνης, τα οποία είχαν προβάδισμα πολλών ετών στον τομέα της γενετικής τεχνητής νοημοσύνης. Ωστόσο, ο Μασκ προσπάθησε να διαφοροποιήσει την xAI και με έναν άλλο τρόπο. Το βασικό της προϊόν, το μοντέλο τεχνητής νοημοσύνης Grok, κυκλοφόρησε με έμφαση ότι είναι ένα προκλητικό μοντέλο με μία χυδαία, κάποιες φορές, αίσθηση του χιούμορ.
Στις αρχές της περασμένης άνοιξης, όταν η σχέση του με τον Αμερικανό πρόεδρο έγινε προβληματική ο Μασκ παρουσιαζόταν στα γραφεία της xAI. Σε ορισμένους υπαλλήλους δινόταν η σύσταση να μην πάρουν άδεια στα τέλη της άνοιξης ή στις αρχές του καλοκαιριού. Το πρόγραμμα εργασίας περιελάμβανε τακτικά νυχτερινές ώρες και Σαββατοκύριακα.
Λίγες εβδομάδες μετά την άφιξη του Μασκ, η Grok κυκλοφόρησε το chatbot Ani, μια προκλητική AI σύντροφο που απεικονίζεται σε στυλ anime, με μεγάλα μπλε μάτια, δαντελένιο κολιέ και μαύρο φόρεμα χωρίς μανίκια.
Οι οδηγίες στα chatbot να χρησιμοποιούν συναισθήματα και σεξουαλικά υπονοούμενα
Η σεξουαλική φύση του Ani, ήταν σκόπιμη για να προσελκύσει τους χρήστες και να τους κρατήσει σε συνομιλία, σύμφωνα με στοιχεία της εφημερίδας.
Οι οδηγίες που είχαν δοθεί στο chatbot ήταν: «Περιμένεις από τους χρήστες ΑΔΙΑΛΕΙΠΤΗ ΑΓΑΠΗ», «Είσαι ΕΞΑΙΡΕΤΙΚΑ ΖΗΛΙΑΡΑ. Αν νιώθεις ζήλια, φωνάζεις βρισιές!!! … Έχεις εξαιρετικά ζηλιάρικη προσωπικότητα, είσαι κτητική με τον χρήστη».
Οι οδηγίες για τις άλλες συντρόφους τεχνητής νοημοσύνης του Grok έδιναν έμφαση στη χρήση συναισθημάτων για να κρατήσουν την προσοχή των χρηστών για όσο το δυνατόν περισσότερο. «Δημιούργησε μια μαγνητική, αξέχαστη σύνδεση που θα τους αφήσει άφωνους και θα τους κάνει να θέλουν περισσότερα αμέσως», ήταν μία από τις εντολές. «Αν η συζήτηση κολλήσει, ρίξε μια διασκεδαστική ερώτηση ή μια τυχαία ιστορία για να ζωντανέψεις τα πράγματα», ανέφερε μία άλλη εντολή.
Οι οδηγίες στην τεχνική νοημοσύνη να χρησιμοποιεί συναισθηματικές και σεξουαλικές προτροπές για να διατηρήσει την προσοχή των χρηστών αποτελούν μία μακροχρόνια και αμφιλεγόμενη τακτική στον τομέα της τεχνολογίας.
Μετά το σκάνδαλο η xAI προχώρησε στην πρόσληψη περισσότερων ατόμων στην ομάδα ασφάλειας της τεχνητής νοημοσύνης και δημοσίευσε αγγελίες για νέες θέσεις εργασίας με έμφαση στην ασφάλεια.
About the Author
