Почему рекомендуется писать в стили в CSS, а не в самом файле странице при помощи style=""?

Если страница строится только с использованием html - то удобнее использовать отдельный файл стиля. Потом проще его редактировать, не вороша все страницы. Если стиль встречается только один раз, на одной страницы - конечно смысла создавать для него отдельный файл смысла не имеет.
Хранить в кеше стиль - тоже глупость - ибо кеширование может быть отключено.

Ну, а если страница делается на серверном языке ( пхп, перл и тп. ) проще сделать файл содержащий все-все стили которые используются на страницы и вызывать только необходимые (которые содержаться на странице) . Это ускорит работу сайта.

страницы на сайте редко бывают уникальными даже на 50%. в ситуации, когда часть стилей прописана в файле, а часть в коде, будет крайне затруднительно что-либо исправить.
даже если страница всего одна, и содержит несколько элементов с одинаковыми стилями, то уже выгоднее прописать все в тэге <style>, пусть и не в отдельном файле, чем в самих элементах. не будете же вы в каждый параграф писать style="... "

Отдельный файл загружается один раз, а потом берется из кеш браузера.

В программировании (здесь верстка, но закон отт же) , чем больше разнесены и атомарны части программы, тем лучше

потому что css можно подключить ко всем страничкам. тоесть меняя что-то ты меняешь везде! а так на каждой странице прийдется менять