Lightelligence Колибри Низкий

Aug 13, 2023

На выставке Hot Chips 2023 компания Lightelligence продемонстрировала свой механизм оптического соединения Hummingbird с малой задержкой. Нам удалось найти одного за пределами зала, чтобы сделать снимок для обложки.

Тем не менее, это пишется в режиме реального времени, поэтому извините за опечатки.

Это еще одна таблица, в которой говорится, что спрос на вычисления ИИ намного опережает масштабирование транзисторов.

Lightelligence фокусируется на увеличении количества оптики в вычислениях. Сегодня компания говорит об Optical NOC. Здесь используется тестовый чип и карта, которые мы видели снаружи, но это лишь часть портфолио компании.

Компания заявляет, что создание специализированных архитектур для работы с конкретными числовыми форматами, математическими вычислениями и параллелизмом является одной из областей повышения производительности.

Еще одной областью повышения производительности является добавление в корпуса большего количества микросхем.

Межсоединения, использующие электрические сигналы, считаются неэффективными.

Здесь Lightelligence говорит об оптической сети на кристалле или oNOC. Идея состоит в том, чтобы использовать свет вместо электрической сигнализации на упаковке для повышения эффективности.

Это также позволяет использовать различные типы топологий, поскольку оптические волноводы могут охватывать большие расстояния.

Это обеспечивает лучшее масштабирование по мере увеличения расстояния между чипсетами. Это важно, поскольку производство чиплетов может быть более дешевым, но тогда их необходимо объединять в пакеты.

Колибри — пример использования oNOC. Он имеет FPGA, внешний лазер и SiP стороннего производителя, упакованные на карту. Этот oNOC позволяет осуществлять такие вещи, как трансляция «все на всех».

Компания Hummingbird сосредоточена на обеспечении оптической связи в корпусе с использованием фотонной интегральной схемы или PIC вместе с электронными кремниевыми чипами.

Интерпозер обеспечивает питание чипов. Нижний PIC — оптический компонент. EIC снова на вершине. Этот SiP представляет собой архитектуру SIMD со специальной ISA с кластерами по восемь ядер.

Большим отличием является оптическая сеть вещания с U-образной структурой. Используя это, каждое ядро ​​может обновлять все остальные ядра и не иметь волноводных пересечений в PIC.

Вот микроархитектура ядра. Это ядро ​​вывода AI DSA. Каждое другое ядро ​​может отправлять свои данные через прием oNOC, а также каждое ядро ​​может отправлять данные через квантование и передачу oNOC.

Вот показатели Колибри.

Вот система с Hummingbird в шасси PCIe GPU.

Вот показатели производительности.

Lightelligence утверждает, что может сшивать чипы разных размеров. Похоже, что компания сосредоточена на создании чего-то большего, чем чип ограниченного формата, такой как NVIDIA H100.

Вот еще раз решения:

Использование 3D-упаковки сделает эту технологию более интересной. Следующий вопрос, конечно, заключается в том, будут ли другие компании искать это для межчиповой связи или же на смену придут другие типы технологий. Это интересная технология, но многие крупные производители также присматриваются к оптическим технологиям.

Будем надеяться, что мы получим обновление для будущих Hot Chips.