Новий процесор від Google змінить майбутнє штучного інтелекту

Google недавно оголосила про випуск своїх нових моделей штучного інтелекту, відомих як Gemini, супроводжуючи це випуском останньої версії свого флагманського тензорного процесора (TPU) для навчання та виведення штучного інтелекту (ШІ). Цей крок Google розглядає як стратегічну спробу конкурувати з графічними процесорами, особливо з лідерами ринку — графічними процесорами (GPU) від Nvidia.

TPU v5p, який є найпотужнішим прискорювачем ШІ від Google, був задіяний для роботи на “AI Hypercomputer” — суперкомп’ютерній архітектурі, спеціально розробленій для виконання завдань штучного інтелекту. Це відрізняється від звичайних суперкомп’ютерів, які традиційно використовуються для наукових обчислень.

Остання версія TPU включає 8,960 чіпів на кожен вузол системи, що є значним зростанням порівняно з 4,096 у попередній версії v4. Вона також в чотири рази більше масштабована в плані FLOPs на вузол. Нові вузли забезпечують вражаючу пропускну здатність у 4,800Gbps і обладнані 95GB високошвидкісної пам’яті (HBM), порівняно з 32GB HBM RAM у TPU v4.

Важливою відмінністю між Nvidia H100 і Google TPU v5p є те, що Google не пропонує свої TPUs для продажу іншим компаніям; вони використовуються виключно всередині компанії для власних продуктів і сервісів. TPUs від Google вже довгий час використовуються для підтримки різноманітних сервісів, таких як Gmail, YouTube та Android. Нова версія також була використана для навчання моделі Gemini.

TPU v5p від Google навчає більші мовні моделі в 2.8 рази швидше, ніж TPU v4, і пропонує 2.1 рази більше цінності за гроші. В порівнянні з проміжною версією TPU v5e, випущеною раніше цього року, TPU v5p видається найбільш потужним варіантом, навіть якщо версія v5e пропонує найбільшу цінність, що стає 1.9 рази швидше, ніж TPU v4.

Цікаво, що TPU v5p виявився достатньо потужним для конкуренції з широко використовуваним графічним процесором H100 від Nvidia, який в чотири рази швидше обробляє робочі навантаження, ніж GPU A100 від Nvidia, згідно з даними компанії.

Однак TPU v4 від Google, згідно з дослідженням, опублікованим у квітні, є швидшим в 1.2-1.7 рази, ніж A100. Попередні розрахунки свідчать, що TPU v5p є приблизно в 3.4-4.8 рази швидшим, ніж A100, розміщуючи його на рівні або навіть вище за H100. Однак для остаточних висновків необхідні більш детальні тести.

Поділитися:

АКТУАЛЬНО

ЦІКАВЕ ЗА ТЕМОЮ
У ФОКУСІ

Зеленський ввів санкції проти 51 осіб і 134 компаній

Президент України Володимир Зеленський впровадив нові економічні санкції, охопивши 51 особу та 134 компанії, з метою зміцнення економічного тиску на деякі кількі визначених осіб та юридичних структур. Це рішення було прийнято в контексті заходів Ради національної безпеки України. Указ №850/2023 спрямований на 8 фізичних осіб та 15 компаній, серед яких знаходяться громадяни Кіпру, України та […]

Чому ВПС Ірану не здатні протистояти сучасним викликам?

Незважаючи на зусилля Тегерана з підтримки у робочому стані кількох застарілих літаків, Військово-повітряні сили Ірану (IRIAF) залишаються неефективними у реальних бойових умовах. Остання 12-денна війна між Ізраїлем та Іраном, а також операція США “Опівнічний молот” — повітряна кампанія проти трьох добре захищених іранських ядерних об’єктів — наочно продемонстрували серйозні недоліки іранських ВПС. Під час операції […]

Єврокомісія повідомила, коли Україна отримає перші кошти від заморожених активів РФ

Україна вже влітку отримає перші кошти від заморожених російських активів. Рішення Ради ЄС про розблокування використання надходжень від активів російського центробанку в ЄС схвалив віцеголова Європейської комісії Валдіс Домбровскіс. Рішення набуде чинності після публікації в Офіційному журналі ЄС. “ЄС обрав шлях, який є юридично обґрунтованим і гнучким, щоб підтримка могла бути адаптована до найнагальніших потреб […]

Сальвадор готовий прийняти депортованих злочинців із США

Сальвадор погодився приймати депортованих злочинців зі США, незалежно від їхнього громадянства та країни походження, включно з американцями. Таку пропозицію зробив президент Сальвадору Найіб Букеле в рамках унікальної міграційної угоди зі США, повідомляє Bloomberg. Про домовленість оголосив державний секретар США Марко Рубіо під час свого дипломатичного турне країнами Латинської Америки. “На знак виняткової дружби з нашою […]

Ситуація з ІЛ-76 – спланована провокація, – Андрій Юсов

Представник Головного управління розвідки Міністерства оборони України, Андрій Юсов, вважає, що падіння літака Іл-76 у Бєлгородській області Росії може бути спланованою провокацією, оскільки на борту повинні були бути декілька VIP-персон, включаючи представників російської влади та військових. Проте в останній момент Федеральна служба безпеки (ФСБ) рекомендувала їм скористатися іншим видом транспорту. Це може свідчити про те, […]

В американському Конгресі дійшли згоди щодо допомоги Ізраїлю та Україні

Лідери американського Конгресу, у телефонній розмові з президентом США Джо Байденом, досягли “консенсусу” стосовно надання допомоги Ізраїлю та Україні. Про це повідомляє ABC News, цитуючи заяву лідера сенатської більшості, демократа Чака Шумера. За його словами, вони сподіваються на цьому тижні зробити “щось значуще для підтримки обох країн”. Раніше голова розвідувального комітету Палати представників, республіканець Майк […]

Собаки виявилися майстрами в розкритті брехні: вчені зробили нове відкриття

Собаки відмінно розрізняють правду від брехні, стверджують вчені з Університету Відня, які провели цікавий експеримент. У дослідженні брали участь 260 собак, які виявили надзвичайну здатність розпізнавати ситуації, коли їхні господарі намагалися обдурити їх. Експеримент складався з двох етапів. Під час першого етапу собакам показували дві миски з кормом, приховуючи ласощі в одній з них. Людина-дослідник […]

Ознаки інсульту які треба знати кожному

Щороку 15 мільйонів людей у світі страждають від інсульту, і тільки 16% з них мають шанс повністю відновитися. Інсульт — це гостре порушення кровообігу в головному мозку, що може призвести до летальних наслідків або інвалідності. Однак, раннє розпізнання інсульту та оперативна реакція можуть врятувати життя та зменшити ризик ускладнень. Лікарі наголошують, що інсульт часто подає […]