Какой смысл бояться ИИ, если прямо в настоящий момент ваша жизнь, и жизни остальных 8 млрд людей на планете, зависит от

ААХХААХХАХ ДА ТЫ ГЕНИЙ

Дело не в ИИ, а в том, куда он подталкивает людей за пультом.
Серпухов-15, командный пункт системы предупреждения о ракетном нападении (СПРН). 26 сентября 1983 года.
"Вдруг начинает реветь сирена, вспыхивает транспарант «Старт!» большими кроваво-красными буквами Сирена на КП вовсю ревет, красные буквы полыхают. Шок, конечно, колоссальный. Все повскакивали из-за пультов, на меня смотрят. А я что? Все по инструкции для оперативных дежурных, которую сам и написал. Сделали все, что нужно. Перепроверили функционирование всех систем. Тридцать уровней проверки, один за другим. Идут доклады: все совпадает, вероятность - двойка. Высшая. . И тут опять взревела система. Вторая ракета пошла. И снова загораются буквы «СТАРТ». А затем в течение трех минут еще три раза. Надпись сменилась на «РАКЕТНОЕ НАПАДЕНИЕ»."
Спасибо подполковнику Петрову, начальнику смены в тот момент. Он решил, что это ложное срабатывание системы, благо был одним из ее разработчиков и не верил ей безоговорочно. Иначе бы нас сейчас не было. Потом оказалось - спутниковая система интерпретировала отражения солнечного света от облаков как старты ракет.

На самом деле находиться в закрытой комнате с обезьяной вооруженной гранатой в миллионы раз безопаснее чем находиться в закрытой комнате с компьютером вооруженным гранатой (обезьяну будет сдерживать инстинкт самосохранения, а для компьютера НЕТ сдерживающих факторов, НИКАКИХ)... поэтому люди и боятся ИИ.

Искусственного интеллекта как такового не существует и существовать не может. За ИИ принято выдавать машинное обучение.

Если бы было так, то давно была ядерная война

Смысл бояться есть, ядерными дубинками один хрен машет непуганое поколение. Если никто не будет бояться, человечеству звездец.
Поэтому бояться ЯО - ваш почетный гражданский долг. А кто там в какой мере управляет кнопками из ИИ и людей - вопрос вторичный. Бойтесь ИИ, он же тоже на на принятие решения по кнопке влияет.

А чего бояться ИИ? Он интеллектом по сути то и не является. Он может только воспроизводить шаблонные действия которые имеют какую-то результативность.
Так что и глобально он мало на что способен. Пожалуй основной отличительной способностью можно отметить возможность обработки большого количества данных. И пусть "Знание - Сила", в условиях отсутвия интеллекта это просто данные. А уже что-то делать с ними, вероятнее всего, будет человек

А где ты вообще жизнь видишь?
У меня с февраля-марта 2022 года нет жизни, есть существование
Этой весной еще больше усилилось ощущение, что я уже в другом мире. Слабость и проблемы со здоровьем тому способствуют. Ну и с вредителями-неадекватами, с которыми никто уже давно не желает бороться, а только сами хотят вредить