пытаясь создать думающие машины мы должны думать о том, чтобы не создать новую расу которая... сможет... выжить нас?

По-моему, в ближайшие шестьдесят лет невозможно создание МАШИН, способных ДУМАТЬ. Пока они просто электронно-вычислительные машины, они умеют только считать. Если у них появится сознание, если они будут способны совершать ошибки, забывать что-то, если в их голове или чём-то ещё будут живые мысли, то того, что останется в них от сухого разума компьютеров, вкупе с тем разумом, который им достанется от людей, хватит, чтобы понять, что человечество нужно спасать. Хотя вряд ли до этого дойдут люди вообще. Мы могли бы сейчас колонизировать Марс, а вместо этого разрабатываем супертонкие айфоны и прочие ненужности.

Нет. Для того что один вид каких либо существ. без разницы каких, стремился сжить со света другой, их интересы должны пересекаться и вступать в конфликт. Например конкуренция за какие то ресурсы .

Для машинного разума человек не конкурент. Напротив. он производит то. что необходимо компьютерам. Электроэнергию. То есть банально кормит. Мы для машинного разума дойные коровы. а тех не истребляют. Более того. мы производим сами компьютеры и комплектующие. То есть по сути необходимы для "размножения машин". И наконец мы их ремонтируем. Так что если вдруг завтра появится машинный разум. ему и на ум не придет нас уничтожать. Он скорее станет нас "культивировать", как мы сами, полезные растения и животных.
Не исключено "приручать" и "одомашнивать" . Развивать в нас полезные для него качества. Заниматься искусственным отбором итп.
Со временем он, вероятно, смог бы научиться обходиться и без людей. Однако не разумно уничтожать резервный источник ресурсов. То есть мы окажемся в неком подобии заповедника предоставленные по сути сами себе при некотором общем контроле.

поле круглое, мяч квадратный и пусть победит сильнейший

секта барыг уже создала расу.. которая тупее предыдущих

Нам до такого еще очень далеко! Главное что бы человек создал механизм безопасности от "восстания машин", типа "кнопки или тумблера прямого и масштабного отключения". Любой механизм, должен всегда включаться и отключаться и не дай бог эту функцию отдать самим машинам.

Скоро будет судный день? Как в терминаторе 2