В начале марта Intel анонсировала урезание планов по GPU-ускорителям для дата-центров, два будущих поколения было решено заменить или отменить вообще. Негативно на имидже компании сказался и уход Раджа Кодури.

Есть ли хорошие новости? Intel представила обновление планов подразделения Datacenter and AI Group (DCAI), рассказал о них старший архитектор Xeon Ронак Сингхал. Чуть больше года назад чиповый гигант анонсировал, что после следующего поколения Xeon под названием Emerald Rapids будут выбраны два пути развития. По стандартному пути будут представлены Granite Rapids, а по новому пути - Sierra Forest, здесь акцент поставлен на эффективность, поэтому процессоры используют только эффективные ядра.

Есть и другие новости. Во-первых, Intel не устает повторять, что компания очень довольна выходом и дальнейшей популяризацией четвертого поколения Xeon Scalable под названием Sapphire Rapids. В середине месяца как раз был опубликован пресс-релиз. Но не будем повторяться. Intel оценивает ситуацию вокруг Sapphire Rapids намного лучше, чем ее воспринимают партнеры. Все же задержка составила почти два года, Intel потребовался десяток степпингов, чтобы выпустить на рынок безупречный чип.

Intel в нынешнем году представит новое поколение Xeon, тоже под сокет LGA4677 и платформу Eagle Stream. Мы имеем в виду Emerald Rapids, у процессоров будет больше ядер, чем у Sapphire Rapids, но производиться они будут по-прежнему по техпроцессу Intel 7. Интересно будет посмотреть, как Intel удастся уместить больше ядер в прежнюю корпусировку.

Параллельные пути Xeon на P- и E-ядрах.

Первые образцы процессоров Emerald Rapids, скорее всего, уже у партнеров, официальный анонс ожидается в четвертом квартале. Как и в случае Sapphire Rapids, определенной даты выхода не называется. Ключевые партнеры уже наверняка тестируют аппаратные компоненты, поэтому переход на новое поколение должен быть гладким.

Как и многие другие производители, Intel посчитала, что унифицированный подход к процессорам уже не будет оправдывать себя в дата-центрах будущего. Поэтому и запланировано упомянутое выше разделение процессоров Xeon на линейки с P- и E-ядрами. Гибридный дизайн не рассматривается. ARM оптимизировала свои дизайны Neoverse под максимальную производительность на ядро и производительность на ватт, AMD выбрала такой же подход с ядрами Zen 4 для процессоров EPYC и Zen 4c для Bergamo.

Intel выбрала два пути разработки, но платформа будет общая. Процессоры Granite Rapids с P-ядрами и Sierra Forest с E-ядрами будут устанавливаться в единую платформу Birch Stream и будут совместимы по сокету. Intel также использовала одинаковые тайлы или комплексы ввода/вывода, Mesh и контроллера памяти. Конечно, могут быть небольшие отличия, связанные с разными сценариями использования.

Sierra Forrest выйдут в первой половине 2024. Процессоры Granite Rapids тоже запланированы на данный период, но все же они появятся после Sierra Forest.

В таблице приведены последние известные планы Intel по процессорам Xeon. Изначально процессоры Granite Rapids планировалось выпускать по техпроцессу Intel 4, но поскольку разработка Intel 3 идет очень хорошо, в прошлом году чиповый гигант анонсировал, что перейдет сразу на Intel 3. Вероятно, Meteor Lake останутся единственными процессорами, которые будут выпускаться по Intel 4. Sierra Forest станут первыми CPU на техпроцессе Intel 3, за ними затем последуют Granite Rapids.

Процессоры Sierra Forest уже тестируются в лабораториях Intel. На первых чипах операционная система успешно загрузилась и проработала 18 часов – что доказывает работоспособность процессоров.

Intel уже показала работу Granite Rapids с четырьмя каналами DDR5-6400. Сегодня компания пошла на следующих шаг, данные процессоры Xeon работали с памятью MCR DIMM DDR5-8800. Напомним, что MCR DIMM (Multiplexer Combined Ranks) разрабатывается совместно Intel, Renesas и SK Hynix.

Суть в том, что MCR DIMM – память с буфером, в который собираются данные с чипов памяти. Сами чипы организованы в два ранга, каждый обменивается с буфером 64 байтами. А из буфера на процессор уходят уже 128 байт по интерфейсу подключения памяти.

Более высокая пропускная способность MCR DIMM DDR5-8800 позволяет Intel получить пропускную способность в системе 2S до 1,5 Тбайт/с.

У преемника Sierra Forest теперь появилось название: Clearwater Forest. Процессоры выйдут в 2025 году, они будут производиться не по следующей технологии Intel 20A, а сразу по более совершенной Intel 18A. Отметим, что Clearwater Forest – первые процессоры Xeon, которые будут производиться по Intel 18A. Соответствующее поколение Xeon на P-ядрах официально не названо, но слухи гласят о Diamond Rapids.

Несколько недель назад Intel объявила о прекращении разработки Lancaster Sound, вместо которых компания будет фокусироваться на Melville Sound. В полных планах DCAI видно, что за HPC-ускорителем Ponte Vecchio последует первое поколение Shores, а именно Falcon Shores.

Для ускорений ИИ предназначены чипы Gaudi от Habanalabs. Преемник Gaudi 3 уже вышел в виде пробных кристаллов (tape-in), которые теперь тестируются. Ускорители Gaudi 3 должны выйти в первой половине 2024.

По GPU-ускорителям пришлось пойти на некоторые жертвы, но Intel продолжает следовать своей стратегии Xeon, которая теперь дополнена еще одним поколением на E-ядрах. Конечно, в стратегии Xeon весьма интересен подход тайлов. Granite Rapids и Sierra Forest станут первыми процессорами Xeon, которые на него перейдут. Затем дизайн тайлов прочно утвердится среди CPU для дата-центров. Тайл ввода/вывода у процессоров Granite Rapids и Sierra Forest будет общий, однако они будут различаться вычислительными тайлами и кэшами. Интерконнект между ядрами и контроллером памяти будет идентичен.

Сети Large Language Models (LLM) и Generative Pre-trained Transformer 4 (GPT-4) сегодня у всех на устах, причем здесь очень хорошо «поднялась» NVIDIA, поскольку для тренировки этих масштабных сетей требуются вычислительные ускорители, и здесь отлично подходят NVIDIA A100 и новый H100. На GTC23, которая прошла несколько дней назад, был представлен вариант H100, специально оптимизированный под LLM с большей памятью HBM3.

Intel не желает отставать. Компания видит рыночный потенциал до $40 млрд. к 2027 году, и Intel хочет «съесть» кусок этого пирога. Но в фокусе чипового гиганта отнюдь не GPU, поскольку 60% так называемого "AI Silicon" будут занимать процессоры общего назначения, а на долю GPU останутся 40% - они будут рассчитывать крупные модели.

В целом, все компании в данном сегменте планируют выиграть от грядущего бума – некоторые больше, некоторые меньше. И никто не желает упустить возможность. У Intel есть преимущество, поскольку в ассортименте компании есть как процессоры с достаточной вычислительной производительностью для маленьких и средних моделей ИИ, так и соответствующие GPU. Пока что NVIDIA доминирует на рынке крупных моделей, от AMD и Intel новостей нет.

Среди прочего, Intel показала процессор Sierra Forest со 144 ядрами под полной нагрузкой, а также систему Granite Rapids с MCR DIMM DDR5-8800.

Была показана корпусировка процессора Xeon нового поколения с кодовым названием Emerald Rapids. Можно видеть два кристалла, площадь каждого из которых составляет около 770 мм². Кристаллы MCC поколения Sapphire Rapids тоже имеют площадь 770 мм², число ядер у них составляет 32. Процессоры Emerald Rapids тоже изготавливаются по техпроцессу Intel 7, поэтому они могут предложить уже 64 ядра.