Можно ли установить баланс белого если у источника спектр не непрерывный?

Это зависит от степени его "прерывности" и того, что именно вы пытаетесь добиться.

1. Если источник освещения - лазер, излучающий только одну длину волны, то ни о каком ББ речи идти просто не может. Если же источник освещения - люминесцентные специализированные *фотолампы* с несколькими люминофорами, то практически это возможно, хотя, строго говоря, их спектр не непрерывен.

2. Баланса белого можно добиваться с двумя разными подходами: коррекцией цветов изображения объекта до тех цветов, в которых человек видит объект в естественных условиях (объективный подход), или до тех цветов, которые представляются наиболее привлекательными (субъективный подход). Понятно, что первый подход гораздо требовательней к качеству освещения.

Объективно, невозможно добиться баланса белого, когда в сцене присутствуют два и более разнесённых источника освещения с разной цветовой температурой, но иногда это можно использовать как художественный приём (пример - сценическое освещение).

Думаю, что провалы в спектре источника света подействуют одинаково что на глаз что на фотоаппарат, и приблизить ББ к тому как видел глаз можно, не идеально, но на приемлемом уровне.
Несколько лет назад я проводил опыт - снял несколько кадров в разных условиях с одной установкой ББ, точно не помню, то ли 5000K то ли 5600K. получались кадры, которые можно было достаточно хорошо подправить, просто подкорректировав кривые цветности. Но быстро оставил эту затею, не из-за того, что лень обрабатывать или не умею, а просто стремлюсь сразу снимать так, чтобы избежать любой обработки.

Ответ на вопрос зависит от того, что именно вы считаете "установлением ББ", и о какой программе идёт речь в вопросе.
Если в настройках камеры, то установку по серой карте никто не отменял.
Если на уже сделанном снимке, то здесь ББ — весьма относительное понятие.
То есть, ТОЧНАЯ установка точек серого, белого и чёрного не обязательно сделает на картинке естественную передачу цвета.