Новий процесор від Google змінить майбутнє штучного інтелекту

Google недавно оголосила про випуск своїх нових моделей штучного інтелекту, відомих як Gemini, супроводжуючи це випуском останньої версії свого флагманського тензорного процесора (TPU) для навчання та виведення штучного інтелекту (ШІ). Цей крок Google розглядає як стратегічну спробу конкурувати з графічними процесорами, особливо з лідерами ринку — графічними процесорами (GPU) від Nvidia.

TPU v5p, який є найпотужнішим прискорювачем ШІ від Google, був задіяний для роботи на “AI Hypercomputer” — суперкомп’ютерній архітектурі, спеціально розробленій для виконання завдань штучного інтелекту. Це відрізняється від звичайних суперкомп’ютерів, які традиційно використовуються для наукових обчислень.

Остання версія TPU включає 8,960 чіпів на кожен вузол системи, що є значним зростанням порівняно з 4,096 у попередній версії v4. Вона також в чотири рази більше масштабована в плані FLOPs на вузол. Нові вузли забезпечують вражаючу пропускну здатність у 4,800Gbps і обладнані 95GB високошвидкісної пам’яті (HBM), порівняно з 32GB HBM RAM у TPU v4.

Важливою відмінністю між Nvidia H100 і Google TPU v5p є те, що Google не пропонує свої TPUs для продажу іншим компаніям; вони використовуються виключно всередині компанії для власних продуктів і сервісів. TPUs від Google вже довгий час використовуються для підтримки різноманітних сервісів, таких як Gmail, YouTube та Android. Нова версія також була використана для навчання моделі Gemini.

TPU v5p від Google навчає більші мовні моделі в 2.8 рази швидше, ніж TPU v4, і пропонує 2.1 рази більше цінності за гроші. В порівнянні з проміжною версією TPU v5e, випущеною раніше цього року, TPU v5p видається найбільш потужним варіантом, навіть якщо версія v5e пропонує найбільшу цінність, що стає 1.9 рази швидше, ніж TPU v4.

Цікаво, що TPU v5p виявився достатньо потужним для конкуренції з широко використовуваним графічним процесором H100 від Nvidia, який в чотири рази швидше обробляє робочі навантаження, ніж GPU A100 від Nvidia, згідно з даними компанії.

Однак TPU v4 від Google, згідно з дослідженням, опублікованим у квітні, є швидшим в 1.2-1.7 рази, ніж A100. Попередні розрахунки свідчать, що TPU v5p є приблизно в 3.4-4.8 рази швидшим, ніж A100, розміщуючи його на рівні або навіть вище за H100. Однак для остаточних висновків необхідні більш детальні тести.

Поділитися:

АКТУАЛЬНО

ЦІКАВЕ ЗА ТЕМОЮ
У ФОКУСІ

Якщо Європа не зміниться, вона залишиться позаду Китаю і США

Згідно з останніми прогнозами Financial Times, Європа стоїть перед серйозними викликами і потребує радикальних змін для збереження своєї конкурентоспроможності та впевненого місця у глобальній економічній та політичній арені. У своїй недавній публікації Financial Times підкреслює, що наступному скликанню Європарламенту належить готуватися до серйозних потрясінь, оскільки на порядку денному будуть переважати три ключові теми: зміна економічної парадигми […]

Київська прокуратура відкрила справу через побиття 12-річної дівчинки

У Києві правоохоронці розпочали розслідування інциденту, що стався на Мінському масиві, де три дівчини побили 12-річну школярку. Подія стала відома після публікації відео в соцмережах, на якому видно, як група підлітків по черзі завдає ударів потерпілій, знімаючи це на мобільний телефон. За даними Київської міської прокуратури, 2 серпня 2024 року на території спортивного майданчика в […]

В Ірані фрегат Sahand майже затонув у Бандар-Аббасі

На сьогоднішній день, 7 липня, стало відомо про серйозний інцидент із фрегатом Sahand в Ірані, що майже призвів до його затоплення біля пристані в Бандар-Аббасі. Про це повідомляє інформаційне агентство Tasnim. За даними іранського державного видання Mehr, фрегат Sahand, який був відправлений на ремонт в один із доків, втратив рівновагу через проникнення води в резервуари. На фотографії, […]

Перемога України в Чорному морі вирішить проблеми у зерновій торгівлі та вантажоперевезеннях

Цитата з міністра закордонних справ Польщі Радослава Сікорського, що перемога України в Чорному морі вирішить проблеми з зерном та вантажоперевезеннями, насправді вказує на те, що відновлення контролю над західною частиною Чорного моря та створення стабільного експортного коридору може вирішити проблеми, з якими стикаються Україна та Польща у зерновій торгівлі та вантажоперевезеннях. «Але так, у нас […]

Збільшення пенсій в Україні: Суддям – до 100 тисяч гривень, інші отримали невеликі доплати

У січні 2024 року в Україні відбулася переоцінка розмірів пенсій, за якою суддям пенсії підняли майже до 100 тисяч гривень на місяць, тоді як інші отримали лише невеликі доплати. За даними Пенсійного фонду, середня пенсія в країні на січень 2024 року досягла рівня 5,3 тисячі гривень, що є зростанням на приблизно 700 гривень протягом року. […]

Ердоган та Президент Ірану обговорили заходи для забезпечення миру в Газі

Президенти Туреччини та Ірану провели телефонну розмову, під час якої обговорили ситуацію, що склалася навколо конфлікту між Палестиною та Ізраїлем. Обговорювались питання щодо надання гуманітарної допомоги палестинському населенню та можливі кроки для досягнення стійкого припинення вогню в регіоні. Директорат президента Туреччини передає, що країни планують спільні дії для зроблення тимчасового припинення вогню сталим та досягнення […]

Палата представників США не проголосувала за законопроєкт щодо допомоги Україні перед відправленням у канікули

Під час засідання 15 лютого Палата представників Конгресу США прийняла рішення про відправку у канікули, які триватимуть до 28 лютого. Ця дія надала спікеру Майку Джонсону можливість відкласти голосування за законопроєкт щодо надання допомоги Україні, Ізраїлю і Тайваню, мотивуючи це “іншими пріоритетами”. Білий дім відреагував на такий крок, висловивши занепокоєння. Згідно зі схемою засідань Палати […]

29 жовтня Xiaomi представить флагманські смартфони та інші новинки

29 жовтня Xiaomi проведе презентацію, на якій анонсує та випустить 16 нових продуктів. Засновник компанії Лей Цзюнь підтвердив, що не всі пристрої будуть показані на сцені, частина з них відразу надійде у продаж. Серед новинок, які компанія планує представити, будуть флагманські смартфони Xiaomi 15, планшети Pad 7, розумний годинник Watch S4, фітнес-браслет Smart Band 9 […]