Недавно Tachyum объявила о своем намерении выпустить первые кристаллы Prodigy в 2024 году. Окончательный вариант чипа должен появиться в 2025 году. Аппаратное и программное обеспечение для эмуляции уже существует, но это вряд ли соответствует амбициозным целям. Процессор был анонсирован еще на 2020 год, но до сих пор так и не вышел в кристалле. Спустя годы реального чипа по-прежнему нет.
Теперь представлена платформа ATX с процессором Prodigy, которая должна обеспечить «ИИ для всех». Однако и здесь в плане реальных чипов ничего нет. Показан только корпус ATX, но нет никаких подробностей того, что в него будет установлено. Все технические данные представлены в виде простых схем.
Основным элементом платформы Prodigy ATX будет процессор. Модели стартуют с 48 ядер, но планируется CPU и с 96 ядрами в одном сокете. Ядра Prodigy Universal Processor должны достигать частоты 5,7 ГГц, поддерживается восьмиканальный интерфейс памяти DDR5-6400. На представленной материнской плате ATX установлены два модуля памяти на каждый канал. Также есть три слота PCIe 5.0, один из которых подключен по всем 16 линиям, а два других – по восьми. Для твердотельных накопителей предусмотрены три слота M.2. Подключение осуществляется по интерфейсу PCIe 5.0 x4. Также предусмотрено шесть портов SATA.
Контроллер управления BMC также обеспечивает видеовыход, хотя Tachyum упоминает здесь подключение HDMI, что весьма необычно для данного сегмента. Мощность встроенного БП составляет 1.200 Вт. Помимо 24-контактного разъема ATX, на материнской плате также есть четыре 8-контактных разъема ATX.
Небольшая деталь, которая скрыта между строк: до сих пор Tachyum всегда говорила об одном процессоре со 192 ядрами. Описание платформы Prodigy ATX показывает, что такой процессор можно разделить на две части со 96 ядрами, своего рода решение "half-die". Впрочем, такой подход практикуется и с другими процессорами - см. NUMA или SNC (Sub NUMA Clustering).
Tachyum также обосновывает выпуск процессоров с 96 или 48 ядрами тем, что можно использовать чипы с дефектами, чтобы увеличить долю выхода годных кристаллов.
В связи с высоким спросом на ускорители ИИ в последние годы Tachyum значительно сместила область применения Prodigy. Чип всегда задумывался как универсальный процессор, который может справиться с любыми задачами. Сейчас же сферой применения Prodigy должны стать большие языковые модели (LLM). Благодаря собственному формату данных (TAI с 2 битами и TAI2 с 4 битами), оптимизированному для приложений ИИ, один процессор Prodigy должен быть таким же производительным, как 52 ускорителя GH200 от NVIDIA. Одно это уже будет революцией.
Но здесь подразумевается процессор Prodigy со 192 ядрами. Однако для платформы Prodigy ATX предусмотрено всего 96 или 48 ядер. Но даже в этом случае уже можно тренировать инстанс Chat GPT, что не получится при использовании одного ускорителя H100. На платформе Prodigy может работать 31 инстанс Llama2, в то время как на обычных x86-системах с ускорителем H100 – только один.
И вот Tachyum снова говорит о цифрах, которые иначе как волшебными не назовешь. $5.000 против $30.000 и при этом в десятки раз большая производительность. Слишком хорошо, чтобы быть правдой.
Цена в $5.000, очевидно, относится к самой маленькой версии с 48 ядрами и 256 ГБ оперативной памяти. Неизвестно, сколько будет стоить более крупная версия с 96 ядрами. Вопрос о доступности платформы Prodigy ATX также остается открытым. Аппаратное обеспечение сначала хорошо бы увидеть, если оно действительно существует.