Что такое CUDA и с чем его едят? Точнее как?

CUDA (англ. Compute Unified Device Architecture) — технология GPGPU (англ. General-Purpose computing on Graphics Processing Units), позволяющая программистам реализовывать на языке программирования Си алгоритмы, выполнимые на графических процессорах ускорителей.

Короче тебе по сути не холодно не жарко от этого. Использовать CUDA имеет смысл в затратных научных приложениях. Расрпделенные пперации с плавающей точной выполняются на графических процессорах примерно в 10 раз быстрее чем на обычном процессоре. (ведь видеокарты специализируются на подобных вычислениях) .

Очень важно понимать, что замены обычному CPU не происходит. CPU предназначен для широкого спектра задач, а на видеокарте можно только быстро считать по специально оптизированному алгоритму.

А вообще сейчас нету обычных программ, которые бы использовали возможности CUDA. Только специализированный софт.