Каким будет первый шаг ИИ? Основное мнение учёных заключается в том, что мы ничего не поймём.

Это риторический вопрос.

ии невозможен на нашем этапе развития технологий
а до возможности создания полноценного ии человечество не доживет
какой-нибудь вирус очередной выпущенный пиндоснёй убьёт всех

Для кого-то и механические часы - чёрный ящик ("Для кого и кобыла - невеста").

Нет в интеллекте ничего "чёрного". Ни в природном, ни в искусственном. Любой интеллект - это две пирамиды, - рецепторная и моторная с мотивацией на экспансию на вершинах.

Когда искусственный интеллект станет сильнее естественного, он перейдёт к культурному "человеководству", выпасая на полях плодородных "овечек" и уничтожая "волков". Кроме малой их доли для зоопарков.

Если смотреть на тему шире, то процесс уже давно идёт с момента возникновения технологий. Каменные топоры хотя и не обладают искусственным интеллектом, но уже производят отбор населения по умению быстро их изготавливать и остро точить.

)

Не путай принципы работы всего живого на Земле с железом!

ИИ повесится.

Уже давно есть ии, это шахматные, в производстве, мэйл.
Первые ~2 шага сделаны. А люди которые разрабатывают
подобное подвержены всем + и -- человека. Ждем роботов.

ИИ делает в точности то, на что обучен. Никаких собственных "мотивов" у него не будет покуда мы сами этого не захотим.
Мотивация человека обусловлена комплексом эволюционных приспособлений, которые мы получили для эффективной стайной работы (добычи пищи, работы в коллективе), и для нужд естественного отбора - борьба за самок, социальное доминирование. Искуственному интеллекту такая мотивация нахрен не нужна - он должен делать в точности то, что задано.

Что ты несешь, компьютер не станет человеком, для этого ему нужно быть живым и осознавать смерть

Искуственный интеллект, это интеллект равный человеческому. Так если машина будет человеком, она и жить должна как человек и рассуждать. А иначе нужно говорить не про ИИ, а про автомат запрограммированный на убийство. Так и разговор сразу обретает смысл.