Искусственный интеллект (ИИ) выходит из цифровой сферы в реальный мир. Физический ИИ знаменует собой этот прорыв — момент, когда интеллект не просто анализирует данные, но чувствует, движется и реагирует. Системы больше не привязаны к статичным процедурам и теперь могут видеть, понимать и обрабатывать непредвиденности, адаптируясь прямо рядом с нами на рабочих местах, в больницах и дома. В современных реалиях машины напрямую взаимодействуют с меняющимися ритмами жизни, учатся у окружающей среды и работают с людьми практичными и доступными способами.

Ультимативная платформа NVIDIA Jetson Thor

NVIDIA Jetson Thor — ультимативная платформа для физического искусственного интеллекта и робототехники с лидирующей производительностью и масштабируемостью. Предназначенная для запуска больших фундаментальных моделей наподобие VLA-модели GROOT N1, платформа Nvidia Thor обеспечивает возможность восприятия, рассуждения с последующим принятием решений в реальном времени для периферийных роботизированных систем. Инновационные технологии аппаратной архитектуры NVIDIA Jetson Thor предоставляют основу реализации мультимодального ИИ со способностью мультисенсорной обработки, повышающего эффективность автономных и универсальных систем.

NVIDIA Jetson Thor относится к новому классу высокопроизводительных платформ NVIDIA, поддерживающих следующее поколение физического ИИ. Оснащённый графическим чипом NVIDIA Blackwell GPU в сочетании с памятью до 128 ГБайт, NVIDIA Thor достигает производительности вычислений до 2 квадриллионов операций за одну секунду в формате 4-битных данных с плавающей точкой (FP4 AI) и позволяет запускать новейшие генеративные модели ИИ, потребляя при этом не более 130Вт энергии. NVIDIA Thor до 7.5 раз более производительнее и до 3.5 раз более энергоэффективнее предшественника NVIDIA Jetson AGX Orin.

Архитектура NVIDIA Jetson Thor

NVIDIA Jetson Thor построен на модуле NVIDIA T5000 с производительностью до 2070 терафлопс в формате FP4 AI. Модуль NVIDIA T5000 содержит графический чип с архитектурой Blackwell, вычислительные процессоры Arm Cortex Neoverse, ускорители зрения сделующего поколения, видео кодировщики и видео декодеры, а тажке новые алгоритмы камеры, все вместе ускоряющие производительность искусственного интеллекта. Встроенная DRAM-память до 128 ГБайт со скоростью обмена данными 273 ГБит/сек  делает возможной работу ИИ-приложений в режиме нескольких потоков. Новый дизайн системы-в-модуле отныне объединяет не только вычисление с высокоскоростным вводом-выводом, но и память со схемой питания.

NVIDIA Thor Блок-диаграмма системы-в-чипе

NVIDIA Thor Блок-диаграмма системы-в модуле

Графический процессор NVIDIA Blackwell GPU в модуле T5000 включает в себя до 3 кластеров обработки графики и 10 кластеров обработки текстур. Для улучшения производительности ИИ имеется до 20 потоковых мультипроцессоров со 128 ядрами CUDA и 4 тензорными ядрами 5-го поколения в каждом из них. В зависимости от требований ИИ-модели, движок NVIDIA Thor Transformer Engine поддерживает динамическое переключение между режимами FP4 и FP8.

Динамика производительности T5000 в различных режимах вычисления

Многопоточный графический процессор (Multi-Instance GPU, MIG)

Многопочный графический процессор является частью нескольких продуктов NVIDIA и теперь он представлен в Jetson Thor. Технология MIG разделяет графический процессор на несколько одновременно работающих экземпляров, каждый со своей памятью, кэшем и потоковыми мультипроцессорами, вместе максимально повышающих загруженность GPU. В качестве примера, технология MIG допускает разбивку одного целого графического процессора на два физически независимых графических процессора с целью достижения изоляции, когда один экземпляр предназначается для критических рабочих нагрузок, а другой экземпляр используется в иных задачах.

Функциональная блок-диаграмма NVIDIA Jetson Thor

Вычислительный комплекс

NVIDIA Jetson Thor обладает комплексом из 14 ядер 64-разрядного ARM Neoverse-V3AE. В каждом ядре присутствует кэш первого уровня 64 КБайт для инструкций и кэш второго уровня 4х256 КБайт для данных. Вычислительному комплексу также доступны 16МБ общей памяти системного кэша третьего уровня. Максимальная поддерживаемая частота ЦПУ составляет 2.6 ГГц.

Комплект разработчика Jetson AGX Thor

Комплект разработчика AGX Thor Development Kit содержит всё необходимое для быстрого старта. В набор входит модуль NVIDIA Jetson T5000 с эталонной несущей платой и системой температурного контроля, плюс источник питания. Комплект Jetson AGX Thor Development Kit может быть использован для разработки со всеми модулями Jetson Thor.

Документация и ПО

1. Спецификация NVIDIA Jetson Thor DevKit/T5000 (англ., PDF);
2. Официальный ресурс NVIDIA Jetson Thor;