Εκατοντάδες ερευνητές και μηχανικοί της Google υπέγραψαν ανοιχτή επιστολή με την οποία ζητούν από τον CEO Sundar Pichai να αρνηθεί η εταιρεία να παρέχει τα συστήματα τεχνητής νοημοσύνης της για απόρρητες συμβάσεις του Υπουργείου Άμυνας των ΗΠΑ.
Σύμφωνα με τους διοργανωτές της επιστολής, το έγγραφο έχει συγκεντρώσει πάνω από 580 υπογραφές (άλλες πηγές κάνουν λόγο για "περίπου 600"), με τα δύο τρίτα περίπου να συμφωνούν να δημοσιοποιηθούν τα ονόματά τους και το ένα τρίτο να επιθυμεί να παραμείνει ανώνυμο.
Τι ακριβώς ζητούν οι εργαζόμενοι
Στην επιστολή, η οποία παραδόθηκε στον Pichai τη Δευτέρα, οι εργαζόμενοι γράφουν ότι προβληματίζονται από τις συνεχιζόμενες διαπραγματεύσεις μεταξύ $GOOG και του Υπουργείου Άμυνας των ΗΠΑ σχετικά με την ανάπτυξη των συστημάτων Gemini/AI σε διαβαθμισμένα έργα. Ως ειδικοί σε θέματα τεχνητής νοημοσύνης, προειδοποιούν ότι τα συστήματα αυτά "συγκεντρώνουν την εξουσία και κάνουν λάθη" και ότι η εγγύτητά τους με την τεχνολογία τους δίνει την ευθύνη να επισημάνουν τις πιο επικίνδυνες και ηθικές χρήσεις.
Ένα βασικό απόσπασμα της επιστολής, σύμφωνα με δημοσιευμένα αποσπάσματα, αναφέρει ότι "ο μόνος τρόπος για να διασφαλιστεί ότι η Google δεν θα συνδεθεί με τέτοιες βλάβες είναι να απορρίψει κάθε διαβαθμισμένο φόρτο εργασίας" για τον στρατό. Οι εργαζόμενοι προειδοποιούν ότι η τεχνητή νοημοσύνη θα μπορούσε διαφορετικά να χρησιμοποιηθεί σε αυτόνομα όπλα ή μαζική παρακολούθηση χωρίς να το γνωρίζουν ή να έχουν τη δυνατότητα να παρέμβουν.
Οι συντάκτες της επιστολής υποστηρίζουν επίσης τον κίνδυνο φήμης: μια κακή απόφαση σε αυτό το σημείο, λένε, θα μπορούσε "να βλάψει ανεπανόρθωτα τη φήμη της Google, την επιχείρησή της και τον ρόλο της στον κόσμο". Η εταιρεία δεν έχει ακόμη σχολιάσει δημοσίως την επιστολή, αλλά σύμφωνα με δημοσιεύματα των μέσων ενημέρωσης, εξετάζει εδώ και αρκετές εβδομάδες μια συμφωνία με το Πεντάγωνο, η οποία θα στηριζόταν στη διαμάχη του υπουργείου με την Anthropic.
Πλαίσιο: Η διαμάχη του Πενταγώνου με την Anthropic και ο "ανοιχτός χώρος" για άλλες εταιρείες τεχνητής νοημοσύνης
Οι εντάσεις σχετικά με τη χρήση της τεχνητής νοημοσύνης στον στρατό κλιμακώθηκαν αφότου το υπουργείο Άμυνας των ΗΠΑ χαρακτήρισε την Anthropic και το μοντέλο της Claude "κίνδυνο για την αλυσίδα εφοδιασμού" και άρχισε να απωθεί την εταιρεία εκτός στρατιωτικών έργων. Ο χαρακτηρισμός αυτός σήμαινε ότι το Πεντάγωνο και οι εργολάβοι του δεν επιτρεπόταν να χρησιμοποιούν την Claude σε στρατιωτικές συμβάσεις, και η Anthropic αντεπιτίθεται στα δικαστήρια, υποστηρίζοντας ότι πρόκειται για αντίποινα για την άρνηση να επιτραπεί η χρήση της ΤΝ "για όλους τους νόμιμους σκοπούς", συμπεριλαμβανομένων των πλήρως αυτόνομων όπλων.
Μέχρι στιγμής, το δικαστήριο έχει εμποδίσει προσωρινά το υπουργείο να λάβει κάποια μέτρα, αλλά η Anthropic είναι επί του παρόντος ουσιαστικά αποκλεισμένη από αμυντικά συμβόλαια, γεγονός που δημιουργεί χώρο για άλλους μεγάλους παίκτες - συνήθως τη Microsoft $MSFT, την OpenAI ή απλώς τη Google. Σύμφωνα με το The Information, το Πεντάγωνο βρίσκεται σε συνομιλίες με την Google για την ανάπτυξη της τεχνητής νοημοσύνης της (Gemini) σε διαβαθμισμένο περιβάλλον, κάτι που θα κάλυπτε εν μέρει το κενό που άφησε η Anthropic.
Τώρα το επιτελείο απαντά: σε επιστολή του, λέει ρητά ότι "δεν θέλει να καλύψει το κενό που άφησε το Anthropic", αν αυτό σημαίνει ότι θα χρησιμοποιήσει την Τεχνητή Νοημοσύνη για αμφισβητήσιμους στρατιωτικούς σκοπούς. Σύμφωνα με το Gizmodo, στους υπογράφοντες περιλαμβάνονται άτομα από την DeepMind, το Google Cloud και άλλες ομάδες, δηλαδή από εκείνες που εργάζονται άμεσα σε μοντέλα και υποδομές μεγάλης κλίμακας.
Αναδρομή στο Project Maven το 2018
Η τρέχουσα αίτηση συνεχίζει ένα παλαιότερο, πολύ ευαίσθητο κεφάλαιο στην ιστορία της Google: τη διαμαρτυρία του Project Maven το 2018. Τότε ήταν που χιλιάδες εργαζόμενοι αντιτάχθηκαν σε μια συνεργασία με το Πεντάγωνο για τη χρήση μηχανικής μάθησης για την ανάλυση υλικού από μη επανδρωμένα αεροσκάφη και τη βελτίωση της στόχευσης χτυπημάτων, με ορισμένους από αυτούς να αποχωρούν από την εταιρεία εξαιτίας αυτού.
Μια επιστολή του 2018 ζητούσε τότε από την Google "να μην είναι στην επιχείρηση του πολέμου" και να υιοθετήσει μια σαφή πολιτική που δεν θα αναπτύσσει τεχνολογία με σκοπό τη διεξαγωγή πολεμικών επιχειρήσεων. Μετά από έντονη εσωτερική κριτική, η εταιρεία δεν ανανέωσε το συμβόλαιο του Maven και υποσχέθηκε αυστηρότερες ηθικές αρχές για την Τεχνητή Νοημοσύνη - σε αυτή την παράδοση αναφέρονται οι σημερινοί υπογράφοντες.
Η σημερινή επιστολή δοκιμάζει έτσι πόσο σοβαρή είναι η Google όσον αφορά αυτές τις αρχές στην εποχή της δημιουργικής τεχνητής νοημοσύνης, όπου τα μοντέλα μπορούν να αναπτυχθούν πολύ ευρύτερα - από την επεξεργασία πληροφοριών και τον σχεδιασμό επιχειρήσεων έως τα δυνητικά αυτόνομα οπλικά συστήματα.
Τι ισχύει για την Google
Από επιχειρηματικής άποψης, πρόκειται για μια λεπτή ισορροπία μεταξύ του επικερδούς αλλά επικίνδυνου από άποψη φήμης τμήματος της "αμυντικής τεχνητής νοημοσύνης" και της εικόνας μιας εταιρείας που θέλει να λειτουργεί ως "υπεύθυνος" παίκτης στην τεχνητή νοημοσύνη. Τα στρατιωτικά και κυβερνητικά συμβόλαια στον τομέα της Τεχνητής Νοημοσύνης μπορούν να αποφέρουν μακροχρόνιες συμβάσεις και σταθερά έσοδα, αλλά ανοίγουν επίσης την εταιρεία σε σκληρή κριτική από τους υπαλλήλους, το κοινό και ορισμένους ξένους εταίρους.
Επαναλαμβανόμενες εσωτερικές εξεγέρσεις μπορούν:
Να περιπλέξει την πρόσληψη κορυφαίων ερευνητών, οι οποίοι συχνά επιλέγουν εργοδότες με βάση και την ηθική του έργου
ωθήσουν τη διοίκηση να απορρίψει ορισμένες προσοδοφόρες συμβάσεις, "παραχωρώντας" έτσι μέρος της αγοράς σε ανταγωνιστές
δημιουργήσει προηγούμενο: μόλις η διοίκηση υποχωρήσει, οι εργαζόμενοι θα χρησιμοποιούν παρόμοια εργαλεία (ανοικτές επιστολές, αναφορές) συχνότερα
Για τους μετόχους της Alphabet, επομένως, είναι σημαντικό να παρακολουθήσουμε δύο παράλληλες γραμμές: πώς εξελίσσεται η διαμάχη Πενταγώνου-Αιθρόπας (δηλαδή πόσο μεγάλο είναι το συνολικό "παράθυρο ευκαιρίας" στην άμυνα της τεχνητής νοημοσύνης) και τι συμπέρασμα θα βγάλουν ο Pichai και η διοίκηση από την τρέχουσα εσωτερική πίεση. Ο συνδυασμός της ρύθμισης, της φήμης και της εσωτερικής κουλτούρας εδώ μπορεί να είναι τόσο σημαντικός για την αξία της εταιρείας όσο και η ίδια η τεχνολογία.