какое максимальное количество оперативной памяти поддерживает ASUS M5A78L-M LX3 ?

Максимум 16 Гб. На оф. сайте есть информация. Так, что 2 по 8 втыкайте. Кстати ваша мать поддерживает маскимум 1866 MHZ по памяти. Но я бы брал стандартную 1600, так оно надежнее.