Новий процесор від Google змінить майбутнє штучного інтелекту

Google недавно оголосила про випуск своїх нових моделей штучного інтелекту, відомих як Gemini, супроводжуючи це випуском останньої версії свого флагманського тензорного процесора (TPU) для навчання та виведення штучного інтелекту (ШІ). Цей крок Google розглядає як стратегічну спробу конкурувати з графічними процесорами, особливо з лідерами ринку — графічними процесорами (GPU) від Nvidia.

TPU v5p, який є найпотужнішим прискорювачем ШІ від Google, був задіяний для роботи на “AI Hypercomputer” — суперкомп’ютерній архітектурі, спеціально розробленій для виконання завдань штучного інтелекту. Це відрізняється від звичайних суперкомп’ютерів, які традиційно використовуються для наукових обчислень.

Остання версія TPU включає 8,960 чіпів на кожен вузол системи, що є значним зростанням порівняно з 4,096 у попередній версії v4. Вона також в чотири рази більше масштабована в плані FLOPs на вузол. Нові вузли забезпечують вражаючу пропускну здатність у 4,800Gbps і обладнані 95GB високошвидкісної пам’яті (HBM), порівняно з 32GB HBM RAM у TPU v4.

Важливою відмінністю між Nvidia H100 і Google TPU v5p є те, що Google не пропонує свої TPUs для продажу іншим компаніям; вони використовуються виключно всередині компанії для власних продуктів і сервісів. TPUs від Google вже довгий час використовуються для підтримки різноманітних сервісів, таких як Gmail, YouTube та Android. Нова версія також була використана для навчання моделі Gemini.

TPU v5p від Google навчає більші мовні моделі в 2.8 рази швидше, ніж TPU v4, і пропонує 2.1 рази більше цінності за гроші. В порівнянні з проміжною версією TPU v5e, випущеною раніше цього року, TPU v5p видається найбільш потужним варіантом, навіть якщо версія v5e пропонує найбільшу цінність, що стає 1.9 рази швидше, ніж TPU v4.

Цікаво, що TPU v5p виявився достатньо потужним для конкуренції з широко використовуваним графічним процесором H100 від Nvidia, який в чотири рази швидше обробляє робочі навантаження, ніж GPU A100 від Nvidia, згідно з даними компанії.

Однак TPU v4 від Google, згідно з дослідженням, опублікованим у квітні, є швидшим в 1.2-1.7 рази, ніж A100. Попередні розрахунки свідчать, що TPU v5p є приблизно в 3.4-4.8 рази швидшим, ніж A100, розміщуючи його на рівні або навіть вище за H100. Однак для остаточних висновків необхідні більш детальні тести.

Поділитися:

АКТУАЛЬНО

ЦІКАВЕ ЗА ТЕМОЮ
У ФОКУСІ

Медична офіцерка британської армії встановлює рекорд, подолавши Антарктиду на лижах самостійно

Медична офіцерка британської армії, Гарпріт Чанді, оголосила про свій успіх у становленні найшвидшою жінкою, яка самостійно подолала Антарктиду на лижах. Раніше вона вже побила два світові рекорди Гіннеса з антарктичного трекінгу. Чанді стверджує, що подолала відстань 1130 км за 31 день, 13 годин і 19 хвилин. Вона випередила попередню рекордсменку, Керолайн Коте, на один день, […]

Фіцо пропонує Зеленському зустріч у Давосі

Прем’єр-міністр Словаччини Роберт Фіцо повідомив, що запропонував президенту України Володимиру Зеленському провести зустріч під час Всесвітнього економічного форуму в Давосі 21 січня. За словами Фіцо, ця зустріч може стати важливим кроком у визначенні майбутніх відносин між Словаччиною та Україною. Однак він зазначив, що Зеленський поки не відреагував на пропозицію. Крім цього, Фіцо провів телефонну розмову […]

Володар Золотого м’яча 2018 залишає Реал після 13 років

Легендарний півзахисник мадридського Реала, володар Золотого м’яча 2018 року Лука Модріч, офіційно оголосив про завершення своєї кар’єри в клубі після завершення сезону 2024/25. Про це повідомлено на офіційному сайті клубу, а сам футболіст звернувся до вболівальників із зворушливим прощальним зверненням. Модріч зазначив, що намагався відкласти цей момент якнайдовше, але визнав, що все у футболі і […]

Засновник Telegram Павло Дуров має понад сотню біологічних дітей

Павло Дуров, засновник популярного месенджера Telegram, викликав значний резонанс в медіа та серед громадськості, розповівши про своє невідоме до цього часу особисте життя. Виявляється, що Дуров є батьком понад сотні біологічних дітей, народжених за допомогою екстракорпорального запліднення (ЕКЗ). Павло Дуров написав про це на своєму офіційному каналі в Telegram, де він розповів, що 15 років […]

Білорусь оголосила про проведення ядерних навчань паралельно з Росією

Держсекретар Ради національної безпеки і оборони Білорусії заявив про проведення країною ядерних навчань, які будуть синхронізовані з аналогічними навчаннями Росії. Це сталося після того, як Росія оголосила про намір провести навчання з тактичної ядерної зброї у відповідь на загрози від Заходу щодо можливого втручання в конфлікт з Україною. Він сказав, що Мінськ “проведе перевірку армії […]

У РФ упав бомбардувальник Ту-22м3

У Ставропольському краї Російської Федерації впав літак, що було повідомлено губернатором Володимиром Владіміровим. Згідно з даними Telegram-каналів, розбитою машиною виявився ракетоносій Ту-22м3. Цю інформацію підтвердило Міністерство оборони РФ. “Термінове повідомлення. На території Красногвардійського округу у полі сталося падіння літака. За оперативними даними, руйнувань і жертв немає, льотчики встигли катапультуватися”, – повідомив губернатор. Подробиці події не […]

Євросоюз масово імпортує російську нафту, приховану іншим маркуванням через Туреччину

За даними видання Politico, Європейський союз широкомасштабно імпортує російську нафту, яка приховується під іншим маркуванням та доставляється через Туреччину. Такий висновок зробили Центр досліджень енергетики та чистого повітря (CREA) та Центр вивчення демократії (CSD). Ці дані підтверджуються незалежним звітом Politico. Російську нафту законно ввозять до ЄС як “змішане” паливо, позначене як неросійське. Лише з трьох […]

Землю накрила потужна геомагнітна буря, можливі перебої зв’язку

У неділю, 23 березня, Землю накрила потужна геомагнітна буря рівня G3. Вчені прогнозують, що це може спричинити появу полярного сяйва набагато південніше, ніж зазвичай. Сонце знову проявило високу активність – у п’ятницю та суботу (21-22 березня) на його поверхні зафіксували кілька спалахів класу M і C. Вони супроводжувалися корональними викидами маси – потоками сонячної плазми, […]