В чем отличие бинарных и не бинарных файлов?

По внутреннему содержимому - ничем. Абсолютно все файлы являются бинарными, т.е
представляют из себя последовательность нулей и единиц. А вот в зависимости от расширения файла компьютер обрабатывает эту последовательность соответствующим образом

В тестовых есть понятие строка. Соответственно, по разделителю строк (выделенный символ) редактор их располагает на экране
Плюс к тому у текстовых коды таблицы символов ассоциируются со значением байта . В зависимости от используемой кодировки редактор выводит тот или иной символ по этому коду
Как иллюстрация
символьный файл содержит цифры в виде числовых символов 1 5 7. В файле будут записаны коды этих чисел 49 53 55
Для bin файла целые 1 5 7 будут записаны как 1 5 7

Любые файлы содержат информацию в бинарном виде. Разница интерпретации информации, которая в файлах хранится.

Бинарный файл, в котором записан текст (в виде последовательности бинарных кодов символов), обычно называют текстовым. А бинарный файл, содержимое которого не является текстом - бинарным.

Это просто ярлычки, используемые для удобства.

Если ты имеешь ввиду разделение на бинарные файлы и текстовые, то текстовый файл - это бинарный файл, содержащий только "человекочитаемые" символы в определённой кодировке, в то время, как бинарный может содержать абсолютно любые байты, даже те, которые не представляют из себя никакую валидную кодировку текста.

иногда ничем

.bin - бинарный, то бишь содержит какой-то двоичный код, но не текстовый .txt точно и смотреть его и не надо, все равно ничего не понятно.

Бинарный би, двойной