Η Google επιταχύνει τα δικά της τσιπ TPU | Future Intelligence #35

Η περασμένη εβδομάδα μετατόπισε το επίκεντρο της τεχνολογίας από την ακατέργαστη υπολογιστική ισχύ στο ποιος την κατέχει και πώς φτάνει στον χρήστη. Τα σημεία συμφόρησης και οι ανταγωνιστικές πιέσεις, όμως, εμφανίζονται έξω από τους ίδιους τους επιταχυντές - στην οπτική, στα δεδομένα και σε ό,τι φοράτε στο πρόσωπό σας. Η Google επέκτεινε την όγδοη γενιά των TPU της με δύο συστήματα που θα είναι διαθέσιμα το 2027 και αύξησε τον ρυθμό παραγωγής δικού της πυριτίου σε τέσσερα συστήματα τον χρόνο. Η Samsung και η Google άνοιξαν τις προπαραγγελίες για τα γυαλιά Android XR, από 395 δολάρια, σε 30 παραλλαγές σκελετών. Η Microsoft πιέζει τον Λευκό Οίκο να σταματήσει την προγραμματισμένη απαγόρευση εισαγωγής κινεζικών οπτικών πομποδεκτών - ενός εξαρτήματος χωρίς το οποίο δεν λειτουργούν τα κέντρα δεδομένων AI.

Το Future Intelligence είναι μια αποκλειστική αναλυτική έκθεση που εκδίδεται μία φορά την εβδομάδα και διατίθεται μόνο στα μέλη του Bulios Black. Τα μέλη τη λαμβάνουν αυτόματα κάθε Κυριακή πρωί μέσω email - ολόκληρη, μαζί με συγκεκριμένα σενάρια και τις επιπτώσεις τους στις αγορές. Αποκτήστε μόνιμη πρόσβαση στην έκθεση με τη συνδρομή στο Bulios Black.

TPU 8tx και 8i Max: η Google επιτάχυνε το δικό της πυρίτιο σε τέσσερα συστήματα τον χρόνο

Στις 9 Νοεμβρίου, η Google επέκτεινε την όγδοη γενιά των μονάδων επεξεργασίας τανυστών της με δύο συστήματα - το TPU 8tx για εμπιστευτικούς υπολογισμούς και το TPU 8i Max για εργασίες με πολύ μεγάλο πλαίσιο συμφραζομένων. Και τα δύο θα είναι διαθέσιμα το 2027 και έρχονται να προστεθούν στα TPU 8t και 8i του Απριλίου.

Το καθοριστικό στοιχείο δεν είναι ένα τσιπ, αλλά ο ρυθμός. «Για πρώτη φορά παρουσιάσαμε τέσσερα συστήματα TPU μέσα σε ένα έτος», έγραψε ο Amin Vahdat, αντιπρόεδρος και επικεφαλής τεχνολογίας για την AI και τις υποδομές. Μέχρι τώρα, η διεύθυνση κυκλοφορούσε έναν νέο επεξεργαστή κάθε δύο χρόνια.

Τι αλλάζουν πραγματικά τα νέα συστήματα

Κανένα από τα δύο συστήματα δεν χρησιμοποιεί νέο πυρίτιο. Η Google αναδιαμόρφωσε την υπάρχουσα όγδοη γενιά με βάση τα αιτήματα των πελατών που επαναλαμβάνονταν. Επομένως, η επιτάχυνση του ρυθμού κυκλοφορίας αποτελεί πλεονέκτημα στην ενσωμάτωση συστημάτων, όχι στην κατασκευή - γι' αυτό μπορεί να αναπαραχθεί ταχύτερα από έναν νέο σχεδιασμό τσιπ.

Το TPU 8i Max συνδυάζει δύο τσιπ 8i σε ένα πακέτο: διπλάσια υπολογιστική ισχύ, 768 MB SRAM ανά τσιπ και εύρος ζώνης HBM 17,2 TB/s, δηλαδή διπλάσιο από το 8i. Η χωρητικότητα HBM αυξάνεται στα 384 GB, περίπου κατά ένα τρίτο, στον ίδιο χώρο rack.

Όταν δεκάδες πράκτορες διαβάζουν ταυτόχρονα ολόκληρη τη βάση κώδικα ή ώρες βίντεο, το σημείο συμφόρησης παύει να είναι οι υπολογισμοί και γίνεται η μεταφορά δεδομένων ανάμεσα στη μνήμη και τους πυρήνες. Αυτό ονομάζεται «τείχος μνήμης» και το 8i Max το αντιμετωπίζει με ωμή ισχύ - περισσότερο πυρίτιο και μεγαλύτερο εύρος ζώνης στην ίδια επιφάνεια.

Το TPU 8tx έχει διαφορετικό στόχο: δεδομένα που δεν πρέπει να εγκαταλείψουν το προστατευμένο περιβάλλον ούτε κατά την επεξεργασία. Απευθύνεται σε κυβερνητικές υπηρεσίες και ρυθμιζόμενους κλάδους, χρησιμοποιεί το δίκτυο χαμηλής καθυστέρησης Boardfly του 8i, επεξεργαστές υποδοχής AMD EPYC Turin και προσφέρει έως και διπλάσια απόδοση καθυστέρησης από το 8t.

Από εσωτερικό εργαλείο σε εμπορικό προϊόν

Σύμφωνα με την Google, σχεδόν 100 πελάτες χρησιμοποιούν σήμερα TPU - από εργαστήρια αιχμής της έρευνας, εμπορικές εταιρείες και λιανεμπόρους μέχρι πανεπιστήμια. Η Google προμηθεύει επίσης ολοκληρωμένα συστήματα στα κέντρα δεδομένων των πελατών και διευρύνει τη διανομή μέσω συνεργατών, όπως η Oracle και η Crux AI.

Οι δύο σημαντικότερες αναφορές είναι οι εξής. Από το 2027, η Anthropic θα έχει πρόσβαση σε χωρητικότητα περίπου 3,5 gigawatt βασισμένη σε TPU, στο πλαίσιο της συνεργασίας της με την Google και την Broadcom, ενώ η Alphabet αναφέρει ότι η Apple εκπαιδεύει τα θεμελιώδη μοντέλα της στην πιο πρόσφατη γενιά.

Το οικονομικό επιχείρημα είναι ισχυρότερο από τις προδιαγραφές. Για την προηγούμενη γενιά, η SemiAnalysis εκτιμά ότι το συνολικό κόστος ιδιοκτησίας είναι έως και 30 % χαμηλότερο από το GB200 και 41 % χαμηλότερο από το GB300. Η καλύτερη υποστήριξη του PyTorch μειώνει επιπλέον το κόστος μετάβασης για προγραμματιστές που έχουν μάθει να δουλεύουν σε ανταγωνιστική πλατφόρμα.

Ποιος πληρώνει για την επιτάχυνση

Ο επιταχυνόμενος ρυθμός έχει κόστος. Το τρίτο τρίμηνο, η Alphabet κατέγραψε αρνητική ελεύθερη ταμειακή ροή ύψους 9,1 δισεκατομμυρίων δολαρίων, ενώ τα έσοδα της Google Cloud έφτασαν τα 30,7 δισεκατομμύρια δολάρια, με τις πωλήσεις συστημάτων TPU να συμβάλλουν αισθητά. Ωστόσο, και τα δύο νέα συστήματα θα κυκλοφορήσουν μόλις του χρόνου.

Η χρηματοδότηση μετατοπίζεται στην αγορά χρέους. Η Alphabet ξεκίνησε την πρώτη της έκδοση ομολόγων σε δολάρια Χονγκ Κονγκ και Σιγκαπούρης, με στόχο να αντλήσει περίπου 3 δισεκατομμύρια δολάρια σε ισοδύναμη αξία· για την έκδοση του Χονγκ Κονγκ, η αρχική καθοδήγηση τιμολόγησης ήταν περίπου 4,6 % για τα διετή, 5 % για τα πενταετή και 5,5 % για τα δεκαετή ομόλογα.

Η ζήτηση φαίνεται και στην παραγωγή. Η TSMC ανακοίνωσε έσοδα 586,89 δισεκατομμυρίων NT$ (περίπου 17,88 δισεκατομμύρια USD) για τον Οκτώβριο, αυξημένα κατά 59,7 % σε ετήσια βάση και κατά 14,7 % σε σχέση με τον Σεπτέμβριο. Τα TPU και οι ανταγωνιστικές GPU κατασκευάζονται στα ίδια εργοστάσια, επομένως η επιτάχυνση της Google αυξάνει μάλλον τον όγκο για την $TSM παρά τον ανακατανέμει.

Η αγορά αποτίμησε σταδιακά τη μετατόπιση. Την ημέρα της ανακοίνωσης, η μετοχή $GOOG έκλεισε με άνοδο +0,7 % στα 286,01 δολάρια, η μεγαλύτερη κίνηση ήρθε την Τετάρτη με +2,0 % στα 290,63, την Πέμπτη προστέθηκε 1,6 % στα 295,35 και την Παρασκευή υποχώρησε 1,0 % στα 292,52. Για ολόκληρη την εβδομάδα, η τιμή της μετοχής αυξήθηκε κατά 3,0 %.

Για την $NVDA αυτό δεν σημαίνει ότι χάνει έναν πελάτη - η Google Cloud σχεδιάζει να αναπτύξει τη γενιά Rubin και ταυτόχρονα πουλά ανταγωνιστικό πυρίτιο. Η αλλαγή είναι ότι από το 2027, οι μεγαλύτεροι αγοραστές υπολογιστικής ισχύος θα έχουν μια δεύτερη πλήρη επιλογή, από την οποία επωφελούνται επίσης οι $AVGO και $AMD.

Το Android XR στην αγορά: η Samsung εισέρχεται στα γυαλιά των 395 δολαρίων

Στις 12 Νοεμβρίου, η Samsung και η Google άνοιξαν τις προπαραγγελίες για τα πρώτα γυαλιά στην πλατφόρμα Android XR. Η συλλογή, με την ονομασία Intelligent Eyewear, προσφέρει τρία σχέδια της Warby Parker και έξι της Gentle Monster, σε συνολικά 30 παραλλαγές σκελετών. Οι πωλήσεις ξεκινούν στις 10 Δεκεμβρίου στις ΗΠΑ και τη Νότια Κορέα.