C# назначение

"Стоит ли на нем писать"
Да.

"или лучше для прикладного программирования будет Java или C\C++ ?"
Они не заменяют друг друга.
Java - это, прежде всего, кроссплатформа.
C/С++ (имею в виду под WinAPI) - в первую очередь, отсутствие необходимости в сторонних платформах (JVM и .NET), производителость и низкий уровень.
C# - скорость и простота разработки, Windows Phone, WPF, Metro и богатая библиотека классов (много богаче, чем у явы, особенно касаемо GUI).

"Я правильно понимаю, кроме как под Windows больше ни по до что приложения писать нельзя будет?"
Ещё можно под Linux, Mac OS и Android.
Погуглите Mono.

"не подкинет ли кто пару-тройку качественных курсов?"
Ну лично мне и гугла - хватало, хватает и будет хватать.
Хотя я вроде бы не хеллоуворлдщик и не только разрабатываю коммерческие проекты, но и много помогаю на форумах. В том числе тогда, когда не может помочь никто другой, включая тех, кто учился по книгам и курсам.

c# это windows...
все легко и просто в нем.

> Стоит ли на нем писать, или лучше для прикладного программирования будет Java или C\C++ ?
C# - это, грубо говоря (очень грубо) , Java для .Net
У С и C++ немного другая (совсем другая) область применения.

Я использую C# когда нужно сделать что-нибудь простое и симпатичное под windows, либо для создания UI в более-менее сложных приложениях.

P.S. Не могу не упомянуть, что Максим Ефанов несет бред, ибо нехрен гнать на других, если сам ничего не знаешь.

Наилучшее из языков программирования считаю java и C#.
Java применяю в серверном программировании. В остальном отдаю предпочтение c#

Для кроссплатформености есть библиотека "кьют". А Якименко несет бред, ява это язык созданный для веб приложения, апплеты. И если начинать учить, то лучше с явы, схож с плюсами, проще будет переходить на них в будущем.