Что такое тензорные ядра у видеокарт NVIDIA и для чего нужны?

Тензорные ядра в ускорителях NVIDIA: функциональное назначение и применение

Современные процессоры способны выполнять широкий спектр математических операций, включая многократное умножение чисел, таких как 2 × 2. Однако в некоторых случаях требуется не только выполнение базовых арифметических действий, но и более сложная обработка данных, включая их вычисление, группировку и последующее размещение в регистрах памяти. Такие задачи характеризуются высокой ресурсоемкостью, особенно при выполнении операций, связанных с матричным умножением, которые включают в себя многочисленные операции сложения и умножения.

До недавнего времени подобные вычисления осуществлялись на центральных процессорах с использованием специализированных инструкций, таких как MMX, SSE и AVX. Однако с появлением ускорителей NVIDIA Volta возникла возможность выполнения этих операций аппаратно с помощью отдельного специализированного чипа, например, на видеокартах, полностью или частично состоящих из тензорных ядер.

Изначально тензорные ядра являлись ключевым элементом профессиональных ускорителей NVIDIA. В настоящее время они интегрированы во все ускорители компании, включая игровые решения. Тензорные ядра находят применение не только в профессиональных вычислительных задачах, но и в игровой индустрии, обеспечивая работу технологии масштабирования изображения DLSS.