Новий процесор від Google змінить майбутнє штучного інтелекту

Google недавно оголосила про випуск своїх нових моделей штучного інтелекту, відомих як Gemini, супроводжуючи це випуском останньої версії свого флагманського тензорного процесора (TPU) для навчання та виведення штучного інтелекту (ШІ). Цей крок Google розглядає як стратегічну спробу конкурувати з графічними процесорами, особливо з лідерами ринку — графічними процесорами (GPU) від Nvidia.

TPU v5p, який є найпотужнішим прискорювачем ШІ від Google, був задіяний для роботи на “AI Hypercomputer” — суперкомп’ютерній архітектурі, спеціально розробленій для виконання завдань штучного інтелекту. Це відрізняється від звичайних суперкомп’ютерів, які традиційно використовуються для наукових обчислень.

Остання версія TPU включає 8,960 чіпів на кожен вузол системи, що є значним зростанням порівняно з 4,096 у попередній версії v4. Вона також в чотири рази більше масштабована в плані FLOPs на вузол. Нові вузли забезпечують вражаючу пропускну здатність у 4,800Gbps і обладнані 95GB високошвидкісної пам’яті (HBM), порівняно з 32GB HBM RAM у TPU v4.

Важливою відмінністю між Nvidia H100 і Google TPU v5p є те, що Google не пропонує свої TPUs для продажу іншим компаніям; вони використовуються виключно всередині компанії для власних продуктів і сервісів. TPUs від Google вже довгий час використовуються для підтримки різноманітних сервісів, таких як Gmail, YouTube та Android. Нова версія також була використана для навчання моделі Gemini.

TPU v5p від Google навчає більші мовні моделі в 2.8 рази швидше, ніж TPU v4, і пропонує 2.1 рази більше цінності за гроші. В порівнянні з проміжною версією TPU v5e, випущеною раніше цього року, TPU v5p видається найбільш потужним варіантом, навіть якщо версія v5e пропонує найбільшу цінність, що стає 1.9 рази швидше, ніж TPU v4.

Цікаво, що TPU v5p виявився достатньо потужним для конкуренції з широко використовуваним графічним процесором H100 від Nvidia, який в чотири рази швидше обробляє робочі навантаження, ніж GPU A100 від Nvidia, згідно з даними компанії.

Однак TPU v4 від Google, згідно з дослідженням, опублікованим у квітні, є швидшим в 1.2-1.7 рази, ніж A100. Попередні розрахунки свідчать, що TPU v5p є приблизно в 3.4-4.8 рази швидшим, ніж A100, розміщуючи його на рівні або навіть вище за H100. Однак для остаточних висновків необхідні більш детальні тести.

Поділитися:

АКТУАЛЬНО

ЦІКАВЕ ЗА ТЕМОЮ
У ФОКУСІ

Мільярдер Маск прогнозує трансфер свідомості в роботи менш ніж за 20 років

Американський підприємець та мільярдер Ілон Маск заявив, що в майбутньому в роботів Optimus, створених його компанією Tesla, можна буде «завантажувати» свідомість людей. За його прогнозами, це стане можливим менш ніж за 20 років. На зустрічі акціонерів Tesla 6 листопада Маск уточнив, що технологія стане доступною не відразу, але завдяки Neuralink можна буде робити «ментальні знімки» […]

Швейцарія розслідує перший випадок смерті в капсулі самогубства Sarco

Швейцарські правоохоронні органи розпочали кримінальне розслідування після того, як сталася перша смерть людини, яка використала капсулу для самогубства Sarco. Ця капсула, що викликала чимало дискусій і суперечок, дозволяє особам з невиліковними захворюваннями або важкими психологічними стражданнями обрати момент власної смерті. Капсула Sarco, створена для асистованого самогубства, дає змогу людині натиснути кнопку, що запускає процес впорскування […]

Україна і Британія домовилися про сторічне стратегічне партнерство

Президент України Володимир Зеленський підписав закон про ратифікацію угоди зі Сполученим Королівством, яка закріплює сторічне партнерство між двома країнами. Про це глава держави повідомив у соцмережі Х у четвер, 18 вересня. «Наш союз подвоює нашу силу. Саме тому для мене велика честь і привілей підписати закон про ратифікацію угоди про сторічне партнерство між Україною та […]

Елегантна еволюція: кросовер Lexus NX отримав стильний тюнінг від Rowen International

Японський автовиробник Lexus представив нову стильну версію свого компактного кросовера NX, яку розробило тюнінгове ательє Rowen International. Призначений для спортивної модифікації F-Sport, пакет доопрацювань вражає елементами дизайну та покращеними характеристиками. Спереду кросовер отримав карбоновий сплітер та модифікований бампер, які роблять його зовнішній вигляд більш агресивним. На кузові помітно нові аеродинамічні елементи, які додають елегантності та […]

Битва за Арктику? Чому Норвегія та Данія так допомагають Україні у війні з Росією

Під час повномасштабної війни Норвегія та Данія стали одними із ключових донорів безпеки України. Наприклад, Норвегія поставила цінні системи ППО NASAMS, а Данія стала однією з перших країн НАТО, яка вирішила надати Україні винищувачі F-16. Обидві держави спрямували Україні мільярди доларів. За даними Ukraine Support Tracker, створеного німецьким Кільським інститутом світової економіки (Kiel Institute for the world […]

Чому ми помираємо – і чи можна цьому запобігти

Серед усіх дивних мешканців водойм, які живуть у наших океанах і річках, цілком можливо не звернути увагу на гідру. Цю прісноводну родичку медуз, анемон і коралів назвали на честь давньогрецького міфологічного змія, який міг відрощувати голови. Ця загалом непримітна істота нагадує насінину кульбаби – з довгим тілом і пучком щупалець на одному кінці. Але вона […]

Зеленський розпочинає візит до США з переговорів з сенаторами та зустрічі з Трампом

28 лютого 2025 року президент України Володимир Зеленський розпочне свій візит до США зустріччю з сенаторами. Як повідомляє Європейська правда з посиланням на коментарі Офісу президента України, цей важливий візит передбачає низку високопрофільних зустрічей, що мають на меті зміцнити українсько-американські відносини. Після переговорів з сенаторами Зеленський відправиться до Білого дому на зустріч з президентом США […]

Штати заохочують інші країни зменшувати залежність від енергоносіїв з РФ

Заступник речника Держдепартаменту США, Ведант Пател, привітав країни Європи за їхні зусилля у напрямку розширення джерел енергопостачання та зменшення залежності від російських енергоносіїв. Він наголосив на важливості диверсифікації енергоспоживання будь-якою країною і обмеженні залежності від російської енергії. Пател прокоментував співпрацю Туреччини з американською компанією ExxonMobil щодо розширення можливостей газопостачання. Він також підкреслив важливу роль Туреччини […]