Почему когда планки памяти в компе он перезагружается, а когда вынимаю обе он начинает включаться?

скорей всего материнка неисправна, при какой-то несовместимости с планками вообще изображения не должно быть, хотя может быть и планки сильно битыми и при нагрузке крашат систему

Так она не поддерживает этот процессор. Список совместимых процессоров
http://www.gigabyte.ru/products/page/mb/ga-x58a-ud3r_20#support-cpu

Вот тут у какого-то чувака материнская плата GA-EX58-UD3R — только без буквы A и процессор Intel Xeon E5649 @ 2.53GHz
https://www.youtube.com/watch?v=tnlRSjRMDXE
Он пишет, что на веб-сайте Gigabyte не указан Intel Xeon E5649, не указанный как совместимый, однако обновление BIOS F12Q работает. Пишет — Обновите BIOS материнской платы до F12Q для GA-EX58-UD3R с веб-сайта производителя, и процессор E5649 будет работать. Процессоры Westmere-EP серий Xeon 3600 и 5600 стали в некоторой степени востребованными в качестве маршрута обновления для старых материнских плат X58.
И к тому же у него серверная ОЗУ (судя по видео) .
А что тебе обновлять — непонятно, и непонятно куда ты смотрел, прежде чем покупать процессор, которого нет в списке совместимых . Я не знаю, перепрошьёшь ли ты биос самостоятельно, какую версию туда "заливать" и сработает ли это вообще. Тут программатор нужен .У тебя единственное преимущество в том, что у твоей модели материнской платы имеется возможность восстановления BIOS (иногда при сбоях электроэнергии, неправильной "перепрошивке" BIOS или по каким-либо иным причинам выход в BIOS, а, следовательно, и запуск ПК становятся невозможными и для этого на некоторых материнских платах предусмотрена возможность восстановления BIOS, обычно с дополнительной микросхемы, которая сразу встроена в материнскую плату)
Ты сам себе проблему создал ...Нужно проверять совместимость комплектующих тщательно, ибо наличие одинаковых сокетов на процессоре и материнской плате является основным, но не единственным критерием их совместимости)
А не пробовал сделать аппаратный сброс СMOS BIOS ?

Во-первых, плата поддерживает планки ОЗУ максимум до 4гб.
Во-вторых, выше уже сказали, что плата процессор не поддерживает.

Процессор не совместим с материнской платой! Нужна серверная с его официальной поддержкой и ECC память, xeonы не любят работать с обычной!

Биос перешейте на свежий и будет вам счасте. У самого такая мать. Все ксеоны на этот слот работают и планки памяти по 8 гб без проблем, только на свежем биосе. На старом у меня даже не включалась с планками по 8гб. Вставил планку 4 , были такие же симптомы как и у вас, перешил биос всё 9арабгтало стабильность, вставил 3 по 8 всё включилось и стабильно работает и по сей день. Шейте биос !