Есть ли такой материал (вещество)?

10 мм - это довольно глубоко, если детали узкие, пластилин так и не вдавишь.
Возможно, подойдут жидкости. Самое простое и дешевое - гипс, алебастр. Твердеет он быстро. Разумеется снимаемое изделие надо покрыть разделительным слоем, например, протереть тряпочкой с воском, маслом и т. п. В зависимости от дальнейшей судбы слепка, вместо гипса можно использовать что-то другое - цемент, эпоксидные составы, другие полимерные смолы.
Не пойдет, если снимаемое изделие имеет не выпуклые участки (поднутрения), которые не позволят отделить слепок от оригинала. Полимерные смолы дороже, цемент долго застывает. Гипс хрупкий, но если только сфотать - подойдет.

Что-то типа резины - это жидкий полиуретан или жидкий силикон (его обычно используют для таких целей). Специальные составы, при застывании получается материал, похожий на резину (разной твердости). Для фотографирования, наверное, нужно брать окрашенный или добавлять наполнитель (например, двуокись титана) и краситель. Наверное, это вам лучше подойдет, но цена может оказаться высокой.

В крайнем случае можно герметик силиконовый взять (есть белый, например). Но он будет долго сохнуть - несколько дней. Еще можно монтажной пеной, если качество поверхности не сильно важно. Не забудьте про разделительный слой.

Мокрый песок.

зачем это нужно? если для мультипликации то можно из картинок склеить видео а обрабатывать в векторном редакторе. Кстати там есть такое можно барельефы далать из фотографий помню в Гимпе было. Это может автоматзаровать процес.

Магнитная жидкость.

Есть такой металл, нитинол. Он может ''запоминать'' свою прошлую форму.