ТЕНЗОРНЫЙ ГРАФИЧЕСКОМУ РОЗНЬ
чиподел Nvidia оказался отстающим

С тех пор как американская корпорация Nvidia начала как-бы "доминировать" на рынке чипов генеративного искусственного "интеллекта" (ГИИ), разработчики и внедренцы стремились к ее более технологически продвинутым ИИ-чиподелам.

"Оказалось, что одна из самых серьёзных альтернатив скрывалась у всех на виду", – сообщило на неделе информагентство Bloomberg.

Google, чтобы ускорить работу поисковика и повысить его эффективность, аж 10 лет назад выпустила собственные процессоры. Но – не графические, а тензорные интегральные схемы (чипы, ВЦ!). Относительно недавно компания адаптировала их для машинного обучения в ГИИ-приложениях.

И только теперь поисковик начал заключать крупные контракты по продаже этих своих решений на т. н. "тензорных" процессорах (TPU). И они сразу же стали лучшей альтернативой ГИИ-ускорителей Nvidia для больших языковых моделей (LLM) на т. н. графических процессорах (GPU).

В чём разница между графическим и тензорным чипом?

На обоих типах полупроводниковых (п/п) интегральных схем для ИИ (и GPU, и TPU) можно выполнять огромное количество вычислений, необходимых для обучения LLM. Но делают это они по-разному. Граф-процессоры, в т. ч. – Nvidia, разрабатывали для реалистичной визуализации изображений в видеоиграх и параллельной обработки множества задач с помощью тысяч вычислительных "ядер".

Эта архитектура и позволила им выполнять ИИ-задачи со скоростью, недостижимой для иных полупроводниковых (п/п), чтобы генерить ответы на запросы в чат-ботах вроде ChatGPT от OpenAI или Claude от Anthropic. Они – результат массы повторяющиеся вычисления, выполняемых последовательно.

А тензорные чипы – TPU создали специально для ИИ-работы, конкретно – для матричного умножения – основной операции, используемой при обучении нейросетей. TPU разработали для более эффективных – параллельных вычислений.

TPU называют "менее гибкими", "более специализированными", чем GPU, на которые Nvidia большинство уже подсадила. Но при этом TPU гораздо более быстры и менее энергозатратны при выполнении массы однотипных операций. GPU от Nvidia, AMD и Intel, вроде как – "более программируемы", но из-за этой-то гибкости их работа медленней и затратней.

ВАШУ ЦИФРУ! Так пишут дилетанты в Bloomberg. На самом деле тензорная п/п-технология продвинута ничуть не слабее графической. Её пушат все упомянутые чиподелы. Но главные TPU-конкуренты (в т. ч. на российском рынке) – отнюдь не они. И даже не Google. А – китайцы.

Не зря их, как их Huawei, трамповцы недавно начали чморить. Втихую, через Bitmain – крупнейшего в мире производителя майнинговых ферм (фото). Но – жестко