Google a anunțat extinderea portofoliului său de TPU-uri de generația a opta prin introducerea a două noi sisteme, TPU 8i Max și TPU 8tx. Specializate în procesarea AI securizată și gestionarea unor volume mari de informații contextuale, cele două sisteme sunt concepute pentru etape distincte ale ciclului de dezvoltare și utilizare a inteligenței artificiale. Este pentru prima dată când Google introduce patru configurații TPU într-un singur an.
Google utilizează TPU-urile în numeroase moduri: pentru antrenarea și rularea propriilor modele Gemini, pentru gestionarea sarcinilor de lucru bazate pe agenți AI și pentru a pune această tehnologie la dispoziția clienților Google Cloud prin intermediul propriei infrastructuri cloud. Recent, ca răspuns la interesul și cererea tot mai mari, Google le oferă clienților și posibilitatea de a implementa TPU-urile direct în propriile centre de date. Astfel, TPU-urile au devenit o linie de business cu o creștere accelerată, care deservește în prezent aproape 100 de clienți, inclusiv laboratoare de cercetare care dezvoltă modele AI de ultimă generație, companii de tranzacționare financiară, retaileri, universități și alte organizații.
Anunțate pentru prima dată în aprilie 2026, în cadrul evenimentului Google Cloud Next, TPU 8t și TPU 8i au pus bazele acestei generații de cipuri, oferind o performanță de antrenare de până la 2,7 ori mai mare și, respectiv, un raport preț-performanță pentru inferență îmbunătățit cu 80%, comparativ cu generațiile anterioare de TPU-uri. TPU 8t a fost conceput ca un sistem de înaltă performanță pentru antrenarea modelelor fundamentale de inteligență artificială de mari dimensiuni, cu accent pe maximizarea eficienței procesării („goodput”), respectiv cantitatea de procesare utilă pentru AI obținută pentru fiecare watt de energie consumată. La rândul său, TPU 8i este optimizat pentru sarcinile de raționament AI, fiind proiectat să depășească limitările impuse de memoria disponibilă și să reducă la jumătate întârzierile de comunicare dintre cipuri.
Acum, pe măsură ce tot mai multe companii integrează agenți AI autonomi în operațiunile lor, Google a dezvoltat două noi configurații ale acestor sisteme de bază – TPU 8i Max și TPU 8tx – pentru a răspunde unor provocări tot mai importante: securitatea datelor la nivel hardware și capacitatea de a procesa contexte extinse, de ordinul a milioane de tokenuri.
„Pe măsură ce puterea de calcul evoluează de la deservirea utilizatorilor umani la gestionarea activităților desfășurate de agenți AI, companiile au nevoie de acceleratoare capabile să efectueze raționamente pe baza ferestrelor de context tot mai extinse ale modelelor AI. În plus, unii clienți din industrii puternic reglementate solicită capabilități specializate de criptare, adaptate unor sarcini de lucru specifice”, a declarat Amin Vahdat, Chief Technologist și Senior Vice President, AI and Infrastructure, Google.
„Aceste noi sisteme TPU răspund acestei realități. Alături de anunțurile noastre recente privind PyTorch, obiectivul nostru este să facem tehnologia TPU mai ușor accesibilă tuturor dezvoltatorilor și clienților. Prin combinarea cipurilor personalizate, cu arhitectură modulară, cu un ecosistem software deschis și ușor de utilizat, putem dezvolta noi configurații hardware și de sisteme într-un ritm care să țină pasul cu evoluția industriei inteligenței artificiale.”
TPU 8tx, optimizat pentru inferență securizată, cu protejarea confidențialității datelor, și antrenarea modelelor AI la scară redusă
TPU 8tx este conceput pentru companiile din industrii reglementate și instituțiile guvernamentale care utilizează modele AI de ultimă generație sau modele proprii, precum și agenți AI autonomi, în procese care implică date extrem de sensibile. În mod obișnuit, datele sunt criptate atunci când sunt stocate sau transmise printr-o rețea, însă trebuie decriptate în memorie pentru a putea fi procesate. Bazat pe aceeași arhitectură hardware ca TPU 8t și integrat cu procesoare AMD personalizate, TPU 8tx încorporează mecanismele de securitate direct la nivel hardware, astfel încât datele sensibile și ponderile modelelor AI să rămână protejate și izolate chiar și în timpul procesării active.
În plus, prin utilizarea aceleiași rețele Boardfly, cu latență redusă, dezvoltată pentru raționamentul AI în timp real, TPU 8tx permite agenților AI să execute fluent sarcini complexe, care presupun mai multe etape succesive. Sistemul oferă astfel o latență de două ori mai mică decât TPU 8t, cu un impact aproape nul asupra performanței.
Combinarea puterii de calcul necesare antrenării modelelor AI cu o rețea rapidă pentru inferență permite organizațiilor să ruleze și să personalizeze simultan modelele pe un singur sistem. TPU 8tx le oferă echipelor posibilitatea de a ajusta și optimiza modelele folosind propriile date confidențiale, de a transforma modele de mari dimensiuni în versiuni mai mici și mai eficiente prin tehnici de distilare și de a antrena agenți AI prin învățare prin recompensă (reinforcement learning). Toate aceste operațiuni pot fi realizate fără a fi necesară transferarea datelor sensibile între clustere separate.
TPU 8i Max, conceput pentru a depăși limitările capacității de memorie
Atunci când zeci de agenți AI lucrează simultan la nivelul întregului cod sursă al unei aplicații software sau analizează ore întregi de conținut video, lățimea de bandă a memoriei devine rapid un factor care limitează performanța.
TPU 8i Max crește simultan puterea de calcul și capacitățile de memorie, oferind o putere de procesare de două ori mai mare, o capacitate SRAM dublă și o lățime de bandă a memoriei HBM de două ori mai mare față de TPU 8i. Astfel, procesoarele au acces constant la datele esențiale, iar sarcinile de lucru de mari dimensiuni pot fi executate fără blocaje.
Mai mult, deoarece TPU 8i Max integrează de două ori mai multe cipuri în același spațiu ocupat de rackurile existente, centrele de date pot beneficia de o putere de calcul semnificativ mai mare pe unitatea de suprafață și pentru fiecare watt de energie consumată.
Deși oferă flexibilitate pentru o gamă largă de sarcini de lucru, cele patru sisteme TPU de generația a opta de la Google pun la dispoziția clienților acceleratoare specializate pentru fiecare etapă a ciclului de dezvoltare și utilizare a agenților AI: TPU 8t pentru antrenarea modelelor AI la scară largă, TPU 8i pentru raționament cu latență redusă, TPU 8tx pentru procesarea securizată a datelor confidențiale și TPU 8i Max pentru gestionarea ferestrelor de context de mari dimensiuni și obținerea celei mai ridicate densități de calcul per rack.
