как запретить курить в туалете

запрещать бессмысленно, гадить и не смывать тоже не айс. Проще договориться и поставить в складчину качественную вытяжную вентиляцию

Не вопрос. Сделайте в туалете противопожарную сигнализацию. Она будет реагировать на дым и орать дурным голосом на весь дом. А заявление ваши соседи сформулируют. Очень быстро.
А можно не сигнализацию, а сразу автоматическое пожаротушение. Только закурил - и весь в пене.

а просто не смывай за собой не когда может поймёт

Вам нужно жить отдельно от брата с женой, у вас похоже на коммуналку. А если нет мира и согласия между родственниками, то ходите в памперсах.

не можете. поговите с ними. был такой дэзик, при табачном дыме очень воняет. поставьте вытяжной вентилятор, тыща делОв...

1) Повесить табличку "У нас не курят", сорвут вешать еще раз и т. п.
2) Вести каждый раз во время курения беседы запрещающие курение там (Доводы- "ты куришь, а мой ребенок должен дышать этой отравой", "вы портите здоровье окружающим", "я не хочу чтобы мой ребенок получил рак легких", "они тут не одни, есть другие люди", открывать форточку и дверь и проветривать каждый раз после этого помещение) .
3) Из двоих кто-то один (менее упертый) прекратит курить там, второй тоже вскоре не будет.
4) Наконец вы не просто человек, который страдает от курения, а еще и хозяин квартиры ваше слово имеет значение.

заявление в милицию и посАдить их..)))

Курение в квартире - не есть нарушение закона вообще. Участковый только посмеется, у него других головняков хватает. Ну разве что проведет беседу с вашим братом для галки. Вам нужно самой искать компромисс, вариант с хорошей вытяжной системой - отличное решение.