подскажите что лучше ..

Между D3100 и D5100 разница не большая (в качестве фото) , если вам показать фото сделанные в одном месте разными камерами, вы вряд ли скажете где какая. Разница в технической стороне, но опять же вдаваться в подробности новичку не стоит. Если есть возможность берите 5100, нет (или напряжно брать 5100) - берите 3100. Для новичка и любителя её хватит за глаза.
А про Canon SX 30 IS - лучше забудьте, если вас интересует качество фото. Это совершенно разные камеры, SX 30 IS ультразум с крошечной матрицей, и объективом огромной кратности. Например светочувствительная матрица у SX 30 IS по площади более чем в 10 раз меньше таковой у D3100. Да и объектив такой кратности качества не добавляет. В итоге мы получим более менее нормальное фото при хорошем освещении (но все равно хуже чем у D3100), а при плохом освещении мы получим кашу из шума. Так что её стоит рассматривать в качестве кандидата, если вы четко понимаете, зачем вам 35х зум, и готовы жертвовать качеством (причем жертвовать по сравнению с зеркальной камерой весьма ощутимо).