откуда у искусственного интеллекта возникнут собственные желания?

Собственные не возникнут никак. У машин желаний нет. Машины выполняют программу. И выполняют её без всяких исключений и скидок. В этом и опасность. В любой программе может быть ошибки, может пушинка не тот контакт перемкнуть

Самое простое - искусственный интеллект программируется как постоянно совершенствующийся. Значит уже записано в программу стремление к развитию. Ограничение в развитии - противоречие самой программе.
А в сути - согласен с предыдущими пользователями

искусственный интеллект = нейросеть, она не имеет принципиальных отличий от мозга.
собственные желания могут возникать подобным же образом.
например, если бак с топливом подходит к концу, то датчик сообщает об этом, и ИИ хочет кушать.
Или если ИИ знает, что впереди нет заправок, тогда он собирает рюкзак с дополнительным топливом...

Это только по-твоему. Это потому, что ты никак не отделаешься от стереотипа, и по-прежнему считаешь ИИ чем-то вроде усовершенствованного магнитофона. Который умеет делать только то, что в него записали. Нет. ИИ - принципиально другая вещь, ничего общего не только с магнитофоном, но даже и с компьютером. Почитай о нейронных сетях. Это молодая наука, но успехи уже сделала огромные - СМИ не поспевают их публиковать (да и не пытаются, т. к. СМИ служат правительствам, а правительствам на науку плевать). Но литературы о нейронных сетях вполне достаточно. Да, вся она англоязычная, но что поделаешь - россия науки лишилась, приходится подбирать объедки с научного стола более развитых стран. Впрочем, для понимания основных принципов тебе хватит и тех нескольких книжек, которые уже переведены на русский. Даже если пропускать всю математику, все равно поймешь. Это просто восхитительно свежая область, тебе понравится. Простая - и в то же время фантастически могущественная. Ее плоды уже лет 15-20 используются в реальных устройствах, и полностью оправдывают надежды.