ИИ-ускорители можно сделать мощнее, если разместить вычислительные кристаллы и память ближе друг к другу. Но чем плотнее сборка, тем труднее провести между компонентами тысячи быстрых соединений и отвести выделяемое тепло. Платформа BBCube решает обе проблемы вместе с третьей, не менее важной: позволяет точнее устанавливать кристаллы и сокращать расстояние между ними до 10 мкм.
Производители процессоров всё чаще собирают вычислительные системы из нескольких кристаллов вместо одного большого чипа. В одном корпусе можно объединить вычислительные блоки, память и специализированные компоненты. Такой способ особенно полезен для искусственного интеллекта, поскольку ИИ-ускорителям приходится постоянно получать огромные массивы данных из памяти и передавать результаты между разными вычислительными блоками.
Однако плотность сборки быстро упирается в физические ограничения. Кристаллы нужно установить с микрометровой точностью, между соседними компонентами требуется провести множество электрических линий, а работающие рядом вычислительные блоки выделяют много тепла. Разработчики BBCube поэтому одновременно занялись размещением кристаллов, межсоединениями и охлаждением.
Платформа предназначена для 2,5D- и 3D-интеграции. В первом случае несколько кристаллов устанавливают рядом и связывают через общую подложку. Во втором компоненты можно размещать в несколько слоёв друг над другом. BBCube объединяет монтаж кристаллов непосредственно на пластину, соединения без металлических микровыступов и подробный расчёт распределения тепла.
Для плотного монтажа разработчики используют технологию установки кристаллов непосредственно на полупроводниковую пластину. На кремниевой поверхности формируют регулярные углубления, которые удерживают компоненты в нужном положении. За счёт высокой точности соседние кристаллы удалось разместить всего в 10 мкм друг от друга.
Небольшой зазор позволяет сократить длину электрических соединений и провести больше линий на ограниченном участке. Для ИИ-ускорителя разница принципиальна: производительность вычислительных блоков мало помогает, если память не успевает передавать им данные. Чем больше каналов проходит между кристаллами, тем выше совокупная скорость обмена.
Обычные многокристальные сборки часто соединяют при помощи микробампов, миниатюрных металлических контактов между кристаллом и соседним слоем. Уменьшать их шаг бесконечно нельзя. Во время формирования контактов припой нагревают, металл деформируется, поэтому между соседними микробампами приходится оставлять достаточно места, чтобы избежать замыкания.
BBCube обходится без микробампов. Электрический сигнал проходит через сквозные кремниевые переходы TSV, вертикальные проводящие каналы внутри кремния. Разработчики применяют вариант Via-Last: отверстия и проводники формируют после того, как кристаллы уже установлены на свои места. Дополнительный перераспределительный слой разводит сигналы между нужными контактами.
Отсутствие выступающих металлических контактов позволяет гораздо плотнее разместить электрические линии. При зазоре 10 мкм между кристаллами расчёты показали до 16 раз большую совокупную пропускную способность на той же площади межсоединений. Качество передаваемого сигнала при этом остаётся на уровне обычных конструкций с микробампами.
Для ИИ-систем выигрыш связан прежде всего с обменом между памятью и вычислительными блоками. Современный ускоритель постоянно загружает параметры моделей, промежуточные результаты и новые порции входных данных. Узкий канал между отдельными кристаллами способен задерживать вычисления даже при очень высокой производительности самих процессорных блоков. Более плотные соединения уменьшают такое ограничение и одновременно сокращают расстояние, которое проходит электрический сигнал.
После уплотнения возникает другая проблема: тепло приходится отводить из гораздо меньшего объёма. Особенно трудно охлаждать многослойные 3D-сборки, поскольку внутренние кристаллы находятся дальше от внешней поверхности корпуса. Перегрев ограничивает рабочие частоты и повышает риск нестабильной работы компонентов.
Моделирование BBCube показало, что используемая структура пластины уменьшает тепловое сопротивление примерно на 52%. Пониженное тепловое сопротивление означает, что выделяемая кристаллами энергия легче проходит через конструкцию к системе охлаждения. Поэтому более плотное расположение компонентов не обязательно приводит к пропорциональному ухудшению отвода тепла.
Средней температуры всего кристалла для оценки сложной сборки недостаточно. На небольшом участке может появиться горячая точка , хотя общий показатель останется приемлемым. Чтобы находить подобные области ещё при проектировании, разработчики создали многомасштабную модель тепловых процессов с разрешением 1 мкм.
Расчёт охватывает весь кристалл и включает около 100 млн точек. Инженеры могут увидеть распределение температуры практически на уровне отдельных микроскопических участков и определить, где конкретная компоновка вызывает локальный перегрев. Такой анализ нужен до изготовления физического образца, когда расположение компонентов ещё можно изменить без выпуска новой партии чипов.
Точный тепловой расчёт пригодится и для процессоров с подачей питания с обратной стороны кристалла. В традиционной конструкции силовые и сигнальные линии располагаются с одной стороны кремния и занимают пространство в одних слоях разводки. Перенос питания на обратную сторону освобождает больше места для передачи данных, но одновременно меняет пути распространения тепла. Разрешение 1 мкм позволяет учитывать локальные температурные изменения в подобных конструкциях.
В BBCube три разработки работают как части одной схемы. Точный монтаж уменьшает расстояние между соседними кристаллами до 10 мкм. Сквозные кремниевые переходы позволяют отказаться от микробампов и увеличить плотность линий передачи данных. Тепловая модель с 100 млн расчётных точек показывает участки, где плотная сборка может перегреться.
Платформу разрабатывают для ИИ-ускорителей и высокопроизводительных вычислительных систем. Следующий этап предусматривает объединение трёх технологий и испытания на реальных кристаллах вычислительных ускорителей и памяти. Проверка на физическом оборудовании должна показать, насколько результаты расчётов по пропускной способности и отводу тепла сохранятся в полноценных многокристальных системах.