Новий процесор від Google змінить майбутнє штучного інтелекту

Google недавно оголосила про випуск своїх нових моделей штучного інтелекту, відомих як Gemini, супроводжуючи це випуском останньої версії свого флагманського тензорного процесора (TPU) для навчання та виведення штучного інтелекту (ШІ). Цей крок Google розглядає як стратегічну спробу конкурувати з графічними процесорами, особливо з лідерами ринку — графічними процесорами (GPU) від Nvidia.

TPU v5p, який є найпотужнішим прискорювачем ШІ від Google, був задіяний для роботи на “AI Hypercomputer” — суперкомп’ютерній архітектурі, спеціально розробленій для виконання завдань штучного інтелекту. Це відрізняється від звичайних суперкомп’ютерів, які традиційно використовуються для наукових обчислень.

Остання версія TPU включає 8,960 чіпів на кожен вузол системи, що є значним зростанням порівняно з 4,096 у попередній версії v4. Вона також в чотири рази більше масштабована в плані FLOPs на вузол. Нові вузли забезпечують вражаючу пропускну здатність у 4,800Gbps і обладнані 95GB високошвидкісної пам’яті (HBM), порівняно з 32GB HBM RAM у TPU v4.

Важливою відмінністю між Nvidia H100 і Google TPU v5p є те, що Google не пропонує свої TPUs для продажу іншим компаніям; вони використовуються виключно всередині компанії для власних продуктів і сервісів. TPUs від Google вже довгий час використовуються для підтримки різноманітних сервісів, таких як Gmail, YouTube та Android. Нова версія також була використана для навчання моделі Gemini.

TPU v5p від Google навчає більші мовні моделі в 2.8 рази швидше, ніж TPU v4, і пропонує 2.1 рази більше цінності за гроші. В порівнянні з проміжною версією TPU v5e, випущеною раніше цього року, TPU v5p видається найбільш потужним варіантом, навіть якщо версія v5e пропонує найбільшу цінність, що стає 1.9 рази швидше, ніж TPU v4.

Цікаво, що TPU v5p виявився достатньо потужним для конкуренції з широко використовуваним графічним процесором H100 від Nvidia, який в чотири рази швидше обробляє робочі навантаження, ніж GPU A100 від Nvidia, згідно з даними компанії.

Однак TPU v4 від Google, згідно з дослідженням, опублікованим у квітні, є швидшим в 1.2-1.7 рази, ніж A100. Попередні розрахунки свідчать, що TPU v5p є приблизно в 3.4-4.8 рази швидшим, ніж A100, розміщуючи його на рівні або навіть вище за H100. Однак для остаточних висновків необхідні більш детальні тести.

Поділитися:

АКТУАЛЬНО

ЦІКАВЕ ЗА ТЕМОЮ
У ФОКУСІ

Власницю Ibox Bank хочуть розслідувати заочно

Бюро економічної безпеки України (БЕБ) звернулося до Личаківського районного суду Львова з проханням застосувати спеціальне досудове розслідування у справі власниці Ibox Bank. Причиною такого кроку стало затягування розслідування з боку адвокатів підозрюваної, яке триває з березня 2023 року. За даними слідства, акціонери банку, зокрема його співвласниця, організували схему легалізації коштів за допомогою “міскодингу”. Для її […]

Зеленський прибув до Ірландії для переговорів із прем’єр-міністром

Президент України Володимир Зеленський прибув до Ірландії, де зустрівся з прем’єр-міністром країни Міхалем Мартіном. Візит відбувся 27 лютого, а місцем прибуття українського лідера став аеропорт Шеннон на заході країни. Міхал Мартін особисто зустрів Зеленського в аеропорту, після чого вони перейшли до VIP-зали для переговорів. Через цю зустріч ірландський прем’єр навіть скасував свій запланований візит до […]

Польща може припинити підтримку Starlink для України через політичне вето

Рішення президента Польщі Кароля Навроцького накласти вето на поправку до закону про допомогу громадянам може мати серйозні наслідки для України. Про це заявив віцепрем’єр – міністр цифровізації Польщі Кшиштоф Гавковський, різко розкритикувавши дії глави держави. За словами урядовця, вето фактично означає відключення інтернету Starlink, який Польща надавала Україні від початку повномасштабної війни. Крім того, під […]

США сподіваються на новий раунд переговорів між Україною та Росією

У Білому домі заявили про сподівання на проведення нового раунду прямих переговорів між Україною та Росією вже наступного тижня. Як повідомила прес-секретар Білого дому Керолайн Левітт під час брифінгу 29 травня, зустріч може відбутися в Стамбулі. «Ми надіємося, що Росія і Україна візьмуть участь у прямих переговорах і обговореннях наступного тижня в Стамбулі. І ми […]

Ватикан оголошує про покращення стану Папи Франциска після пневмонії

Папа Римський Франциск більше не потребує штучної вентиляції легенів вночі та значно менше потребує кисневої терапії вдень. Про це повідомила пресслужба Ватикану 19 березня, наголосивши, що стан Святішого Отця поступово покращується. За офіційною інформацією, клінічний стан Папи продовжує покращуватись. Понтифік припинив використання неінвазивної механічної вентиляції легенів, а також зменшив потребу у високопотоковій кисневій терапії. Крім […]

Maersk, найбільший контейнерний перевізник у світі, відновить маршрути через Червоне море

Міжнародна данська компанія Maersk оголосила про відновлення руху своїх контейнеровозів з Азії до Європи через Червоне море і Суецький канал. Рішення компанії прийнято в контексті операції, проведеної США та їх союзників, що спрямована на патрулювання морського шляху та захист цивільних суден від можливих терористичних атак. Maersk планує відправити перші кораблі морським шляхом якнайшвидше, однак застерігає, […]

Велика Британія модернізує ядерний підводний флот на тлі загроз з боку Росії та Китаю

У понеділок, 2 червня, прем’єр-міністр Великої Британії сер Кір Стармер офіційно зобов’язується розпочати найбільшу оборонну модернізацію країни з часів Холодної війни. Основою цього амбітного плану стане будівництво атомних підводних човнів кожні 18 місяців, щоб протистояти загрозам з боку Росії та Китаю. За словами міністра оборони Джона Гіллі, нова ініціатива дозволить британським збройним силам отримати суттєву […]

Українці можуть подати заявки на компенсацію за зруйноване майно

Українці, чиє житло було пошкоджене або зруйноване внаслідок обстрілів після 24 лютого 2022 року, можуть отримати компенсацію або житловий сертифікат через державний сервіс «єВідновлення». Про це повідомляє Міністерство цифрової трансформації України. Для того щоб скористатися підтримкою, спочатку потрібно зафіксувати факт руйнування або пошкодження. Це можна зробити через застосунок «Дія» або особисто в Центрі надання адміністративних […]