Volantis представила концепцію прискорювача для інференсу, у якому пам’ять має сполучатися з обчислювальною частиною оптичними хвилеводами. Компанія вважає, що це дасть змогу розміщувати значно більший пул пам’яті в одному корпусі, але заявлені параметри поки залишаються цілями, а не виміряними результатами серійного обладнання.
2-5 мм для електрики проти понад 200 мм для оптики
Volantis описує обмеження, яке часто називають стіною пам’яті: електричні з’єднання на інтерпозері зазвичай мають досяжність приблизно 2-5 мм. Через це пам’ять доводиться розміщувати дуже близько до обчислювального кристала, а можливості компонування великого пулу обмежуються фізичною відстанню.
За заявою компанії, її оптичні хвилеводи можуть працювати на відстані понад 200 мм. Такий підхід має винести пам’ять далеко за межі кількох міліметрів і змінити сам принцип її розташування в корпусі прискорювача. Центральна ідея полягає не лише у швидшому з’єднанні, а у збільшенні простору для масштабування пам’яті.
Понад 220 чиплетів і мікро-VCSEL у проєкті Volantis
Компанія заявляє, що її оптичний інтерпозер зможе об’єднати в єдиний пул понад 220 чиплетів пам’яті. Для передавання світла Volantis планує використати інтегровані масиви мікро-VCSEL, тобто мікролазери мають бути розміщені безпосередньо в системі, без потреби у зовнішніх лазерних джерелах.
Це важлива частина архітектурної обіцянки: якщо зв’язок із пам’яттю не прив’язаний до надкоротких електричних ліній, обчислювальний кристал потенційно отримує доступ до значно більшого обсягу даних в одному пристрої.
10 ТБ та 240 ТБ/с залишаються цільовими показниками
Volantis називає для системи до 10 ТБ пам’яті та до 240 ТБ/с пропускної здатності. Також компанія вказує цільову підтримку моделей понад 10 трлн параметрів і продуктивність до 10 000 токенів за секунду на одного користувача.
Ці значення не слід читати як незалежно підтверджені результати готового продукту. Це цільові характеристики, заявлені самою Volantis. У доступних офіційних матеріалах також немає підтвердженого строку появи робочого прототипу або даних про серійне виробництво.
Раунд Series A не замінює випробувань пристрою
Volantis повідомила про залучення 88 млн доларів у раунді Series A та 97 млн доларів загального фінансування. Серед інвесторів компанія називає Сема Альтмана. Фінансування показує інтерес до ідеї фотонного з’єднання пам’яті, але не відповідає на ключові технічні питання щодо затримок, енергоспоживання, надійності оптики та відтворюваності виробництва.
Окремо не варто сприймати як встановлений факт порівняння з AMD MI455X і значенням 432 ГБ, оскільки ці специфікації не були окремо перевірені. Офіційні матеріали Volantis так само не деталізують тезу про ліцензування всіх інших компонентів у сторонніх постачальників. Для оцінки концепції вирішальними будуть результати випробувань реального пристрою, а не лише заявлена архітектура.