Новий процесор від Google змінить майбутнє штучного інтелекту

Google недавно оголосила про випуск своїх нових моделей штучного інтелекту, відомих як Gemini, супроводжуючи це випуском останньої версії свого флагманського тензорного процесора (TPU) для навчання та виведення штучного інтелекту (ШІ). Цей крок Google розглядає як стратегічну спробу конкурувати з графічними процесорами, особливо з лідерами ринку — графічними процесорами (GPU) від Nvidia.

TPU v5p, який є найпотужнішим прискорювачем ШІ від Google, був задіяний для роботи на “AI Hypercomputer” — суперкомп’ютерній архітектурі, спеціально розробленій для виконання завдань штучного інтелекту. Це відрізняється від звичайних суперкомп’ютерів, які традиційно використовуються для наукових обчислень.

Остання версія TPU включає 8,960 чіпів на кожен вузол системи, що є значним зростанням порівняно з 4,096 у попередній версії v4. Вона також в чотири рази більше масштабована в плані FLOPs на вузол. Нові вузли забезпечують вражаючу пропускну здатність у 4,800Gbps і обладнані 95GB високошвидкісної пам’яті (HBM), порівняно з 32GB HBM RAM у TPU v4.

Важливою відмінністю між Nvidia H100 і Google TPU v5p є те, що Google не пропонує свої TPUs для продажу іншим компаніям; вони використовуються виключно всередині компанії для власних продуктів і сервісів. TPUs від Google вже довгий час використовуються для підтримки різноманітних сервісів, таких як Gmail, YouTube та Android. Нова версія також була використана для навчання моделі Gemini.

TPU v5p від Google навчає більші мовні моделі в 2.8 рази швидше, ніж TPU v4, і пропонує 2.1 рази більше цінності за гроші. В порівнянні з проміжною версією TPU v5e, випущеною раніше цього року, TPU v5p видається найбільш потужним варіантом, навіть якщо версія v5e пропонує найбільшу цінність, що стає 1.9 рази швидше, ніж TPU v4.

Цікаво, що TPU v5p виявився достатньо потужним для конкуренції з широко використовуваним графічним процесором H100 від Nvidia, який в чотири рази швидше обробляє робочі навантаження, ніж GPU A100 від Nvidia, згідно з даними компанії.

Однак TPU v4 від Google, згідно з дослідженням, опублікованим у квітні, є швидшим в 1.2-1.7 рази, ніж A100. Попередні розрахунки свідчать, що TPU v5p є приблизно в 3.4-4.8 рази швидшим, ніж A100, розміщуючи його на рівні або навіть вище за H100. Однак для остаточних висновків необхідні більш детальні тести.

Поділитися:

АКТУАЛЬНО

ЦІКАВЕ ЗА ТЕМОЮ
У ФОКУСІ

Мальдіви стоять перед загрозою повного затоплення через підвищення рівня моря

Підвищення рівня моря становить серйозну загрозу для Мальдів – архіпелагу в Індійському океані. Наразі багато місцевих островів вже знаходяться на висоті менше, ніж за метр над рівнем моря, а деякі з них стали безперспективними щодо доступу до питної води. Однак новий президент, Мохамед Муіззу, відмовився від попередніх планів переселення населення та пропонує розвинуту стратегію захисту. […]

У системі “Прозорро” абсолютний новачок отримав найбільший підряд тижня

За останні сім днів у системі “Прозорро” оприлюднено повідомлення про закупівлі на 18,09 млрд грн. З них 4,25 млрд грн пішло на фортифікаційні та захисні споруди в прифронтових регіонах. За цими підрядами з міркувань секретності не оприлюднюються кошторисні ціни будматеріалів, що не дає можливості порівняти їх із ринковими. Найбільший підряд тижня отримав абсолютний новачок. Створене […]

Феррарі Тома Селлека з серіалу «Магнум» виставлено на аукціон

В США стартує аукціон, на якому буде представлений легендарний Ferrari 308 GTS 1979 року, прославлений завдяки серіалу «Приватний детектив Магнум» (Magnum P.I.), у якому роль детектива виконував Том Селлек. Цей яскраво-червоний суперкар з кремовим шкіряним інтер'єром з'явився в пілотних епізодах та першому сезоні шоу, що підтверджується документами від аукціонного дому Barrett-Jackson. Автомобіл...

Що означатиме для України обрання Марка Рютте головою НАТО?

У жовтні цього року генеральний секретар НАТО Єнс Столтенберг після свого довголітнього керівництва майже точно буде замінений на нового лідера — прем’єра Нідерландів Марка Рютте. Для цього нам потрібно лише підтримка Румунії. Newsweek, посилаючись на кількох експертів, пише, що у Рютте є одна недооцінена риса – хороші стосунки з Дональдом Трампом. На останній конференції з […]

Кім Кардаш’ян змінює свій стиль: від екстравагантних образів до вишитої сукні з хрестами

Кім Кардаш’ян, світово-відома зірка реаліті-шоу, вразила шанувальників не лише своєю персональністю, але й рішенням змінити свій звичний стиль під час відзначення “Чоловіка року” за версією журналу GQ. Замість традиційних екстравагантних образів, які стали її візитівкою, Кім з’явилася в відкритій сукні з вишитими хрестами. На обкладинці журналу, присвяченій щорічному випуску “Чоловік року”, 43-річна зірка позувала в […]

Світові фондові ринки обвалюються через тарифи Трампа

Світові фондові ринки переживають значний спад на тлі агресивної тарифної політики президента США Дональда Трампа. Азійські біржі зазнали найсильнішого обвалу за останні 16 років, зокрема акції в Китаї, Японії, Гонконгу та Індії значно втратили в ціні. Це спричинило неспокій на світових фінансових ринках і навіть зміцнення японської єни, що, у свою чергу, призвело до падіння […]

Український боксер Олександр Усик залишається в базі даних сайту «Миротворець»: що це означає для його репутації

Український боксер Олександр Усик, який нещодавно став абсолютним чемпіоном світу в суперважкій вазі, підкоривши Тайсона Ф’юрі, залишається в списку осіб сайту «Миротворець». Це викликає серйозне занепокоєння та підняло хвилю критики щодо цього контроверсійного ресурсу. На «Миротворець» Усика занесли в травні 2020 року разом з іншим українським боксером Василем Ломаченком. Це сталося після виходу фільму про […]

Чисельність армії США зменшилась до 452 тисяч осіб, що є найменшою кількістю з 1940 року

На завершення фінансового року 2023 року, чисельність активних військовослужбовців Армії США скоротилася до історичного мінімуму, становлячи всього 452 тисячі осіб. Це є найменшою кількістю військових США з 1940 року. Причиною цього скорочення стали критичний дефіцит кадрів та постійні спроби внутрішніх структурних змін, які, проте, не відповідають сучасним умовам ведення війни, що виявилося під час вторгнення […]