NVIDIA CUDA Toolkit

NVIDIA CUDA Toolkit предоставляет среду разработки для создания высокопроизводительных приложений с gpu-ускорением. С помощью CUDA Toolkit вы можете разрабатывать, оптимизировать и развертывать свои приложения на встраиваемых системах с ускорением на GPU, настольных рабочих станциях, корпоративных центрах обработки данных, облачных платформах и суперкомпьютерах HPC. Инструментарий включает библиотеки с ускорением на GPU, средства отладки и оптимизации, компилятор C/C++ и библиотеку среды выполнения для развертывания приложения.

Библиотеки CUDA с ускорением на GPU обеспечивают ускорение в нескольких областях, таких как линейная алгебра, обработка изображений и видео, глубокое обучение и графовая аналитика. Для разработки пользовательских алгоритмов можно использовать доступные интеграции с широко используемыми языками и числовыми пакетами, а также хорошо опубликованные API разработки.

Ваши приложения CUDA могут быть развернуты во всех семействах графических процессоров NVIDIA, доступных локально и на инстансах GPU в облаке. Используя встроенные возможности для распределения вычислений по конфигурациям с несколькими графическими процессорами, ученые и исследователи могут разрабатывать приложения, которые масштабируются от рабочих станций с одним графическим процессором до облачных установок с тысячами графических процессоров.

IDE с графическими средствами и средствами командной строки для отладки, выявления узких мест производительности на GPU и CPU и предоставления контекстно-зависимых руководств по оптимизации. Разработка приложений с использованием уже знакомого языка программирования, включая C, C++, Fortran и Python.

Чтобы начать работу, просмотрите онлайн-ресурсы по началу работы, руководства по оптимизации, иллюстративные примеры и сотрудничайте с быстро растущим сообществом разработчиков. Загрузите NVIDIA CUDA Toolkit для ПК уже сегодня!

Особенности и основные моменты

• Метка времени графического процессора: метка времени запуска
• Метод: имя метода GPU. Это либо «memcpy*» для копий памяти, либо имя ядра графического процессора. Копии памяти имеют суффикс, описывающий тип передачи памяти, например, «memcpyDToHasync» означает асинхронную передачу из памяти устройства в память хоста.
• Время графического процессора: это время выполнения метода на GPU
• Время ЦП: это сумма времени графического процессора и накладных расходов ЦП для запуска этого метода. На уровне данных, генерируемых драйвером, время ЦП — это только накладные расходы ЦП на запуск Метода для неблокирующих методов; для методов блокировки это сумма времени GPU и накладных расходов CPU. Все запуски ядра по умолчанию не блокируются. Но если какие-либо счетчики профилировщика включены, запуск ядра блокируется. Асинхронные запросы на копирование памяти в разных потоках не блокируются
• Идентификатор потока: идентификационный номер потока
• Столбцы только для методов ядра
• Заполняемость: Заполняемость — это отношение числа активных деформаций на мультипроцессор к максимальному числу активных деформаций.
• Счетчики профилировщика: список поддерживаемых счетчиков см. в разделе счетчиков профилировщика
• Размер сетки: количество блоков в сетке вдоль измерений X, Y и Z отображается как [num_blocks_X num_blocks_Y num_blocks_Z] в одном столбце
• Размер блока: количество потоков в блоке вдоль измерений X, Y и Z отображается как [num_threads_X num_threads_Y num_threads_Z]] в одном столбце
• dyn smem на блок: динамический объем разделяемой памяти на блок в байтах
• sta smem на блок: статический объем разделяемой памяти на блок в байтах
• reg на поток: количество регистров на поток
• Столбцы только для методов мемкопии
• Размер передачи mem: размер передачи памяти в байтах
• Тип передачи host mem: указывает, использует ли передача памяти память «Выгружаемая» или «Заблокированная страница» память

Также доступно: Загрузить набор инструментов NVIDIA CUDA для Mac