Может ли быть, что видеокарта от Nvidia (или AMD) не подходит под мат. плату?

Я не хочу оскорбить ваших родственников, но видимо ваш дядя немного глуповат. Такого ни где не бывает. В любой комп с PCI-E x16 разьёмом можно засунуть любую видеокарту, даже профессиональную, вне зависимости от модели, тем более производителя модели.

нет
стандарт один

Все видеокарты имеют стандартный разъём под материнку

если для режима Crossfire подходит матплата, то только AMD две видеокарты можно поставить.
также есть гибридный crossfire, когда используется интегрированное видео вместе с видеокартой.

Если же просто будете использовать одну дискрертную видеокарту, то можно любой фирмы с подходящим разъемом видеокарту.

Нуу, вообще любая подойдет, там уже от чипсета и матери зависит, но кое-что другое
Мол если две видеокарты брать будешь, то поддержка SLI (Nvidia) или Crossfire (AMD)
Ну есть матери поддерживают и то и другое
Если чипсет встроенный в материнскую плату имеет встроенное граф. ядро, Nvidia (В чипсете NF980 SLI) то там SLI Hybrid, будет работать с такой же GeForce 9600 GT допустим, схожая с названием встроенной в чипсет, но можно взять и GTX, любая будет мощнее, чем этот гибрид,
Если чипсет от AMD (760G), то там Crossfire Hybrid, в 760G стоит вроде 4000 HD, значит и дискретную видеокарту такую же покупать...
Так же Hybrid работать будет и с процессорами AMD серии A, если в твоем процессоре есть встроенное графическое ядро, типа Radeon R7
Но скрещивать можно только с AMD Radeon R7 260 вроде бы, но можно и любой другой, если покупать R9, то выйдет мощнее, чем этот гибрид, или мол 750 Ti, есть и встроенное R5, ну понятно что с чем скрещивать, там типа будет R5 230, но как сказал, самый выгодный вариант гибрида - это если у тебя AMD A какой-то и в нем R7, то с R7 260 может и нормально будет, если денег в обрез, но если купить R9 и выше или из Nvidia, то мощнее выйдет во много раз...
Если у тебя процессор от Intel, то никакого гибрида не сделать, там от чипсета матери зависит и то на LGA775 (Core 2 duo/quad)
Чтобы не запутать, говорю, что гавно все эти гибриды, покупай любую видеокарту, просто возможно твой брат не любит Nvidia, если говорить о AMD RX, то там и вправду выйдет лучше
Если собрался две видеокарты покупать, вбивай в гугл название твоей материнской платы и смотри что поддерживает. SLI или Crossfire, а там выбирай, SLI - Nvidia, Crossfire - AMD, а бывает и то и другое поддерживает, там собирай из двух видеокарт че хочешь...
В Crossfire можно скрещивать две разные видеокарты, но с одной линейки, мол, R7 260 и R7 370, либо R9 290 и 390, ну понятно, а в SLI только GTX 980 и GTX 980, одинаковые в общем.