Решил изучить Java. Есть вопрос

Во-первых, exe-файл при компиляции проекта java не создаётся, создаются файлы class, которые исполняет виртуальная машина. Благодаря этому программа может исполняться на Windows, Linux, Mac и др. без перекомпиляции.

Во-вторых, консольная программа тоже программа, хотите Окон, используйте Swing или ещё какую графическую библиотеку.

В-третьих, существует способ собрать кучу class-файлов и необходимые библиотеки в один jar-файл и запускать его где потребуется.

См. тут: http://developer-remarks.blogspot.ru/2012/10/runnable-jar.html
Ну JRE (среду исполнения java), чтобы запускать программу, скачать надо по-любому.

ЗЫ
Делать из Java exe-шник - это возможно, даже есть программы для этого, но ощущается как добровольная ампутация ноги: ходить можно и на костылях, но получается противно.
Добровольно ограничивать среду исполнения Windows'ом - это брррр.

Хотите писать под винду и с графическим интерфейсом - пишите на C#. Весь смысл джавы именно в кроссплатформенности, и она требует жертв.
По ходу, шарп и джава очень похожи, особенно на начальных этапах обучения.

С#

Не знаю, как в Eclipse (я в нем только под андроид писал, в версии с плагином ADT), но можно скачать среду NetBeans+JDK (найти в гугле) и создать в ней проект типа JavaFX Application (или что-то в этом роде) . Это будет уже приложение с интерфейсом.
Этот проект можно собрать в jar, который можно запустить в командной строке вот так
java -jar C:\helloworld.jar
Какой именно кнопкой делается jar, я забыл, но, думаю, разобраться не сложно.