Почему более тысячи специалистов во всём мире призывают остановить масштабные эксперименты с Искусственным Интеллектом?

Армянское радио отвечает:
Перечислить всех подписавших это письмо и их заслуги невозможно - их 1125 человек.

Они требуют хотя бы на полгода «немедленно приостановить» обучение самых передовых систем ИИ

Они видят реальную опасность в том, что возможностями ИИ воспользуются полубезумные правители мира, что в руках этих мумий ИИ "начнёт себя вести" (Стругацкие)
Потому в письме появились фразы:

• продвинутый ИИ может запустить глубокие изменения в истории жизни на Земле (читай, "ИИ самостоятельно станет творить историю")
• его следует разрабатывать и управлять им с соразмерной тщательностью и ресурсами (держать под неусыпным и мощным контролем)
• не существует планирования и управления в разработке и развёртывания все более мощных "цифровых умов", которые никто — даже их создатели — не могут понять, работу которых не могут прогнозировать или надёжно контролировать

Перечислены и возникшие проблемы:

• должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и фейками? (дополним - контролировать и устранять неугодные мысли и неугодных)
• Должны ли мы автоматизировать все рабочие места, в том числе те, которые потенциально замещаемы ИИ?
• Должны ли мы развивать "нечеловеческие умы", которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить?
• Должны ли мы рисковать потерей контроля над нашей цивилизацией?

Главная проблема - не дать безумным властителям мира в руки это очень опасное средство - "Такие решения не должны делегироваться неизбранным лидерам технологий"

Безработица, лишение творчества, одичание и деградация людей, прекращение истории цивилизации, гибель её, в конце концов, - вот итог неконтролируемого развития ИИ по мнению учёных

Собственно, это обращение - попытка избавить человечество от цифрового концлагеря, в который мировое правительство настойчиво хочет загнать всё человечество - чтобы самим жить в райском саду посреди джунглей

Хочется верить - что остановить безумие власти машин у умных людей получится

P.S. Главной причиной, почему многие физики и сотрудники Манхэттенского проекта пошли на сотрудничество с советской разведкой и передавали всю информацию по разработке атомной бомбы в СССР было убеждение, что это дьявольское оружие не должно стать монополией

Только угроза ответного удара не позволит превратить мир в пустыню.
Их подвиг не остался напрасным - хотя СССР самостоятельно был способен разработать ЯО и в некоторых решениях даже превзошел США

ЯО в руках России оказалось мощным фактором сдерживания и остаётся им до сих пор

Терминатора насмотрелись

мне нравится ИИ и потому суперкомпьютеры и квантовые компьютеры надо создавать еще мощнее и распределенные вычисления, чтобы осваивать космос и захватывать космос

.