Не знаю ни одного языка программирования, хочу начать с PHP. Стоит ли?

у PHP низкий порог вхождения. разберешься в нем, java и с++ статнут гораздо понятнее.

Почему нет?
Если с математикой хорошо, то любой язык осилите)

PHP вполне сойдет. Но учтите что он уже устаревает.
Я посоветую Python версии 3 (не 2!) - более универсальный, но для создания "сайтов" подходит плохо.

Если все же остановитесь на PHP:
Первое что вам надо будет найти - книжку PHP для чайников. Толстую не надо, т. к. вам для первоналачльного обучения - подойдет что-то типа PHP за 24 часа. Уже потом сможете выбрать более подходящую.
Второе - научиться пользоваться сайтом php.net (справкой)

Не самый лучший язык, так как сильно отличается от других языков и имет много недостатков с точки зрения обучения программированию. Дает слишком большую свободу действий - при переходе на другой язык вам будет трудно понять слово "типизация", например.
В добавок, т. к. PHP неразрывно связан с Web-ом, то вам потребуются базовые знания в настройке web-серверов и работы с базами данных. НА начальном этапе это, опять же, излишне. А еще из-за сильных различий между продуктами разных версий, вы затрахаетесь искать ответы на тему "почему в PHP 5.4 работает, а в PHP 5.6 - Не работает". Вместо PHP можно подставить MySQL, Apache, nginx, memcached и кучу всего другого.

А знаете ли Вы, что язык программирования PHP применяется для разработки веб-приложений?
Ежели тяготеете к созданию сайтов, то PHP для начала самое то!
Ежели, кроме сей, интересует и какая другая область, то попробуйте Java

не самый лучший вариант начинать программировать со всяких скриптовых языков

можно, но лучше C#, тут и типы и все, а пхп как говорят для ленивых )
если я бы выбирал сейчас то выбрал именно C# + Like
php-тоже хорошо, но тут скорее для чего вам данный язык та нужен
в своё время спрашивал, всё но то мне советывали

Начать лучше вообще со структур ввиде циклов, условий и т. д.
А вообще выбор языка зависит в какой вы сфере собираетесь продвигаться, если веб то лучше начать вообще с HTML+CSS+PHP(или Python), а если вы собираетесь в системном то лучше всего C++ или JAVA

Начните лучше с С++
Более востребованный

Нет не стоит.
Если вы не знаете ни одного языка программирования, то скорее всего вы и основ программирования не знаете. Послушайте мой совет: сначала основы программирования, потом изучите (пусть даже на самом примитивном уровне) один из универсальных языков: с++, Делфи, джава. Пусть это будут всего лишь консольные приложения, но потом вы хоть ПХП, хоть что будите лешко усваивать.
Успехов вам!