Если я заплатил художнику за рисунки для книги, вправе ли он публиковать их отдельно?

Если есть договор, в котором указано, что художник продал нематериальную собственность (рисунки), автору книги, то нет.
Если нет договора и всё держится на честном слове, то тут уже вопрос о порядочности. Если его просили не публиковать, но он опубликовал, значит он плохой человек. Если не просили, то почему бы и нет? Его рисунки, что хочет, то и делает с ними.

Об этом договариваются отдельно и обязательно указывают в письменном договоре (если он есть). В том случае, если Вы настаиваете на том, что приобретенные работы могут публиковаться только в книгах, изданных Вами, то их цена может быть выше.
И наоборот, если право собственности и право на публикацию не будет эксклюзивным и принадлежать только Вам - цена может быть значительно ниже.
Оговариваются также и другие аспекты передачи права собственности и публикации - где, когда, сколько раз и в каком виде можно публиковать. Это касается и оплаты (сразу все деньги, часть денег сразу + выплаты с каждого тиража, зависящие от его объема и т. д.).

Изучите вопрос авторского права, оплаченная работа не лишает автора его прав. Есть разные виды договоров в которых эти моменты оговариваются, компенсируются либо (% или разовым) денежным эквивалентом либо указывают в книге автора иллюстраций. Договор полного отторжения АП подписывают (вынужденно) при устройстве на работу с потоковым производством (студия). Во фриланс люди уходят как раз и по этой причине, обезличивание труда ни кому не нравится.

Формально, он должен обговаривать подобные нюансы с вами. Если он рисует что-то за деньги для вас и вы заключаете соответственный договор, то эти рисунки становятся ВАШЕЙ интеллектуальной собственностью.