Где кончается сложная программа и начинается искуственный интелект?

Искуственный интеллект подразумевает под собой для начала познание нашего собственного интеллекта, а уже после этого попытки построения искусственного. Те псевдо интеллекты, что сейчас пытаются построить - всего лишь программно-аппаратное подобие того, что должно быть. Процессор - это всего лишь камень, который действует по инструкциям. Он не является умным.

Представьте себе следующую ситуацию. Вы сидите в небольшой комнатке и у вас есть стол, стул, неограниченное количество бумаги, и ручек с чернилами. Так же на столе лежит толстенная книга, а в комнате есть небольшая прорезь, ведущая в соседнюю комнату, где сидит китайский философ.

Итак, вы открываете книгу, там подробно расписано то, как рисовать иероглифы. И вы начинаете их вырисовывать, менять местами, перерисовывать под разными ракурсами, после чего рассчитывать положения новых иероглифов. После всего вы получили листок, на котором написаны иероглифы, и вы думаете - "А для чего была вся эта кропотливая работа? " Отдаёте листок в прорезь. Философ читает, и восхищается - "Какая глубокая мысль, какие праведные слова! "

Для философа человек в комнате - безусловно мыслящий и просевщённый, но сами то вы ни слова не поняли из написанного. А теперь представьте, что вы - это процессор, черновики - память, а бумажка с результатом - монитор. Видите к чему я веду?

Действительно интеллектуальной можно назвать только ту машину, которая построена на нейросетях так же, как и построен наш с вами разум. Для этого, кстати, совершенно не нужна работа мозга целиком, а достаточно только одного неокортекса, или попросту коры головного мозга и некоторых прилежащих к ней органов. Нам не нужен "старый мозг", ибо, скажем, автомобилю, который ездит без водителя, совершенно не нужно чувствовать страх, голод, желание к размножению, и так далее...

Искусственный интеллект не обладает чувствами, а только "голыми" знаниями.

искуственный он и есть "искуственный" :)