Новий процесор від Google змінить майбутнє штучного інтелекту

Google недавно оголосила про випуск своїх нових моделей штучного інтелекту, відомих як Gemini, супроводжуючи це випуском останньої версії свого флагманського тензорного процесора (TPU) для навчання та виведення штучного інтелекту (ШІ). Цей крок Google розглядає як стратегічну спробу конкурувати з графічними процесорами, особливо з лідерами ринку — графічними процесорами (GPU) від Nvidia.

TPU v5p, який є найпотужнішим прискорювачем ШІ від Google, був задіяний для роботи на “AI Hypercomputer” — суперкомп’ютерній архітектурі, спеціально розробленій для виконання завдань штучного інтелекту. Це відрізняється від звичайних суперкомп’ютерів, які традиційно використовуються для наукових обчислень.

Остання версія TPU включає 8,960 чіпів на кожен вузол системи, що є значним зростанням порівняно з 4,096 у попередній версії v4. Вона також в чотири рази більше масштабована в плані FLOPs на вузол. Нові вузли забезпечують вражаючу пропускну здатність у 4,800Gbps і обладнані 95GB високошвидкісної пам’яті (HBM), порівняно з 32GB HBM RAM у TPU v4.

Важливою відмінністю між Nvidia H100 і Google TPU v5p є те, що Google не пропонує свої TPUs для продажу іншим компаніям; вони використовуються виключно всередині компанії для власних продуктів і сервісів. TPUs від Google вже довгий час використовуються для підтримки різноманітних сервісів, таких як Gmail, YouTube та Android. Нова версія також була використана для навчання моделі Gemini.

TPU v5p від Google навчає більші мовні моделі в 2.8 рази швидше, ніж TPU v4, і пропонує 2.1 рази більше цінності за гроші. В порівнянні з проміжною версією TPU v5e, випущеною раніше цього року, TPU v5p видається найбільш потужним варіантом, навіть якщо версія v5e пропонує найбільшу цінність, що стає 1.9 рази швидше, ніж TPU v4.

Цікаво, що TPU v5p виявився достатньо потужним для конкуренції з широко використовуваним графічним процесором H100 від Nvidia, який в чотири рази швидше обробляє робочі навантаження, ніж GPU A100 від Nvidia, згідно з даними компанії.

Однак TPU v4 від Google, згідно з дослідженням, опублікованим у квітні, є швидшим в 1.2-1.7 рази, ніж A100. Попередні розрахунки свідчать, що TPU v5p є приблизно в 3.4-4.8 рази швидшим, ніж A100, розміщуючи його на рівні або навіть вище за H100. Однак для остаточних висновків необхідні більш детальні тести.

Поділитися:

АКТУАЛЬНО

ЦІКАВЕ ЗА ТЕМОЮ
У ФОКУСІ

Обвалився міст у США після зіткнення з вантажним судном

У ніч на 26 березня міст Francis Scott Key Bridge у Балтіморі, штат Меріленд, зазнав обвалу після зіткнення з вантажним контейнеровозом. Інцидент стався близько 01:30 за місцевим часом на цьому 2,7-кілометровому мості. На щастя, наразі не має повідомлень про постраждалих, хоча на момент аварії на мосту перебували автомобілі. У міст врізалося вантажне судно Dali під […]

Ціни на золото наближаються до рекорду

Ціни на золото продовжують зростати, залишаючись поблизу рекордних рівнів. В понеділок спотове золото подорожчало на 0,2%, досягнувши 2 469,35 доларів за унцію. Це лише трохи менше від рекордного максимуму в 2 483,60 доларів, досягнутого минулого місяця. Ф’ючерси на американське золото стабілізувалися на рівні 2 508,40 доларів. Підтримка для дорогоцінного металу надходить з двох основних джерел: […]

Верховний суд Ізраїлю зобов’язав ультраортодоксальних студентів проходити військову службу в ЦАХАЛ

Верховний суд Ізраїлю ухвалив історичне рішення, яке змінює практику щодо військової повинності ультраортодоксальних єврейських студентів, введену ще з часів державного створення. Це рішення припиняє практику звільнення цієї групи студентів від обов’язкової військової служби, що була основною причиною суперечок у суспільстві. Ультраортодоксальні єврейські чоловіки також мають бути зобов’язані проходити військову службу в ізраїльській армії. Відповідне рішення […]

Російські спецслужби звинувачуються у вербуванні українських підлітків для підпалів автомобілів ТЦК

Служба безпеки України та Національна поліція оголосили про виявлення випадків вербування українських підлітків російською ФСБ. За їхніми даними, молоді люди, на замовлення російської спецслужби, здійснювали підпали автомобілів співробітників територіальних центрів комплектування (ТЦК, колишні військкомати) у Києві та Дніпрі. Останнім часом в Україні помітно збільшилася кількість нападів на працівників ТЦК та їхні транспортні засоби. Російська сторона […]

Польща, Бельгія та Туреччина: лідери у зростанні експорту зброї, Україна очолює імпорт

Польща значно збільшила обсяги експорту зброї, наростила їх на понад тисячу відсотків, в той час як Бельгія (430) та Туреччина (106) також показали значний ріст. Проте, російський експорт зброї вразливо впав на 53%, що стало виокремленою тенденцією у звіті Стокгольмського інституту дослідження проблем миру (SIPRI). За словами експертів, значний розкішний ріст продажів зброї з Польщі […]

В Китаї зростає новий молодіжний тренд щуролюди

У Китаї стрімко набирає популярності новий молодіжний рух, учасники якого іронічно називають себе “щуролюдьми”. Цей тренд охопив соцмережі, а його філософія прямо протиставляється традиційним уявленням про успіх, кар’єру і соціальну активність. Про феномен повідомило видання South China Morning Post 14 квітня. Початком хвилі стала вірусна публікація, в якій молода жінка розповіла про своє життя, сповнене […]

Нові штрафи для водіїв у Польщі

У Польщі набувають чинності нові правила, які передбачають жорсткіші покарання для водіїв, що неправильно користуються навігаційними пристроями під час руху. За тримання смартфона в руці за кермом порушникам загрожує штраф у 500 злотих та 12 штрафних балів. Польська поліція посилює контроль за дотриманням правил і особливу увагу приділяє тим, хто використовує телефон без спеціального кріплення. […]

Військові Ірану захопили нафтовий танкер в Оманській затоці

Вранці вчора, в Оманській затоці, військово-морські сили Ірану захопили нафтовий танкер St Nikolas, який плавав під прапором Мальти. Інформація про напад стала відома після повідомлення про підняття на борт озброєних осіб. Іранське державне інформаційне агентство IRNA визнало захоплення танкера із зазначенням, що це сталося в результаті рішення суду, хоча конкретне судно не було ідентифіковано. Раніше […]