Исправить можно установкой нормальной ОС.
Во-первых, вам действительно следует установить для разработки на rails другую ос (Linux или Mac). При разработке под Windows вы и в будущем столкнетесь с множеством проблем.
Во-вторых, установка rails под Windows и другого необходимого ПО осуществляется несколько другим способом, нежели под линукс или мак. Перейдите на Rails Installer (http://railsinstaller.org/) и загрузите исполняемый файл Rails Installer. Дважды кликните исполняемый файл и следуйте инструкциям, чтобы установить Git, Ruby, RubyGems, и, непосредственно, Rails.
В-третьих, если вы захотите иметь на своей машине несколько различных наборов гемсетов с разными версиями ruby, то вам понадобится некий аналог rvm. Этот подвиг осуществляет Pik, его можно скачать с github'а.
В- четвертых, если все-таки мои рекомендации не помогли, то подобная проблема обсуждалась на rubygems.org в статье (http://help.rubygems.org/discussions/pro...).
Удачи в rails разработке!