Варианты:
1) можно последовательно соединить 3 стандартных батарейки по 1,5 В и получится около 4,5 В. (дёшево, просто и доступно, но придётся менять использованные на новые) .
2) можно взять обычную плоскую батарею на 4,5 В (получится примерно то же самое что и в 1 пункте) .
3) аккумулятор Li-ion (или Li-pol) (похожий как для моб. телефона) 3,7В (будет работать в пределах 3,4--4,20 В) . (дорого, нужна специальная зарядка, можно перезаряжать несколько сотен раз) .
4) любой другой аккумулятор (например никель-кадмиевый) или батарею аккумуляторов (с любым напряжением) подключить через преобразователь DC->DC (можно самому собрать такой преобразователь) , чтоб на выходе напряжение было в допустимых пределах (3.4V-5.0V) (нужен преобразователь и зарядка, получится примерно то же что и с Li-ion аккумулятором, но дешевле)