при увеличении плотности объем вещества уменьшается, при уменьшении плотности - наоборот, поэтому достаточно взять емкость наполнить ее до краев. Если плотность вещества уменьшится, объем увеличится и у нас вещество выйдет за края. Если увеличится, то объем уменьшится и в емкости образуется впадина. Хороший пример с расширением в-ва (уменьшением плотности) бутылка с водой в холодильнике
Еще как вариант. Можно кусочек затвердевшего вещества бросить в расплавленное. Если утонет - то он более плотен, если будет плавать. то менее плотен