Искусственный интеллект это попытка создать "сверхчеловека" или только подобие человека?

Это попытка построить автомат (робот), который действует по тем же принципам, что и человеческий мозг. Разумеется копирование мозга возможно лишь на том уровне на котором человек понимает природу.
Что такое нейронная сеть понятно более или менее давно, но остается несколько очевидных проблем:
1) Для решения большинства правтических задач достаточно построить хороший автомат или компьютер. Искуственный интеллект в этом случае немного украшает работу автомата - не более того. Все базовые функции в автомат заложены давно и хорошо спроектированы.
2) В работе человеческого мозга тоже не все понятно. Дело в том, что мозг способен самовостанавливаться, то есть память и трезвость рассудка возвращается после тяжелых травм и болезней. Робот, который умели бы чинить себя изнутри пока не изобретен.

нет просто бизнес. чем умнее машина - тем она эффективнее.

Ни то, ни другое. Это попытка создать искусственный интеллект. Ни сверхчеловека, ни человека.

Мне лично кажется, что люди, которые в настоящий момент реально работают в направлениях, которые со временем приведут к созданию ИИ, мотивированы совсем другими вещами. Например, решить конкретные технические задачи, создав более производительные системы. Или научить компьютер управлять сложными системами, чтобы сделать жизнь безопаснее и комфортнее. Или, может, создавая "умную" программу пытаются понять, как устроено человеческое сознание, чувства. Или даже просто удовлетворяют свое любопытство, оттачивают мастерство, развлекаются.

На самом деле, скорее всего, это окажется попыткой завуалировать свои мотивы и манипуляции под действия "это не мы, это он".
Все идет к такому.

ИИ, это попытка создать программу, которая могла бы быть компаньоном человеку,
а возможно и нечто большее.

Лишь попытка. Создан он вряд ли будет... по крайней мере, в ближайшем обозримом будущем. Искусственные нейросети - это да, будет развитие и внедрение... Но до подобия человека оооочень далеко.

Это дальнейшее развитие эволюции человечества, основанное теперь не только на использование свойств окружающей среды, но и интенсивное развитие интеллекта, с очевидным переходом человеческой цивилизации в искусственно создаваемые им новые более развитые формы жизни. А биологическая форма человека останется как атавизм природы...
А ведь всё начиналось с каменного топора, деревянного колеса и с зарубок на палках...