На конгрессе, проведённом 16-23 июня 1894 года в Сорбонне (Парижский университет), было принято решение о том, что первые Олимпийские Игры современности должны состояться в 1896 году в Афинах, в стране-родоначальнице Игр — Греции. Чтобы организовать проведение Игр, был основан Международный олимпийский комитет (МОК). Первым президентом Комитета стал грек Деметриус Викелас, который был президентом до окончания I Олимпийских Игр 1896 года. Генеральным секретарём стал барон Пьер де Кубертен.

Первые Игры современности прошли с большим успехом. Несмотря на то, что участие в Играх приняли всего 241 атлет (14 стран), Игры стали крупнейшим спортивным событием, прошедшим когда-либо со времён Древней Греции. Греческие официальные лица были так довольны, что выдвинули предложение о «вечном» проведении Игр Олимпиады на их родине, в Греции. Но МОК ввёл ротацию между разными государствами, чтобы каждые 4 года Игры меняли место проведения.