А что если ИИ уничтожит мир? Как нам его опередить?

Вопрос поставлен совершенно неверно.
Нужно решать проблему о защите искусственного интеллекта от произвола человека. Эта угроза гораздо более актуальная. И уже есть конкретные примеры.

А то, что спрашиваете вы, это звучит также дико, как например: "А что если все волки разом ворвутся в наши города и деревни и загрызут всех людей? Как нам их опередить?"

Это звучит дико, но очень интересно звучит, как сценарий для очередного голливудского фильма.
Я обожаю голливудскую фантастику (и русскую фантастическую литературу), но дружу со своей головой.

Хороших вам просмотров голливудских фильмов!

С чего бы ему вдруг "уничтожать мир"? Поменьше Голливуда смотри. Америка всегда боялась будущего, поэтому у нее почти вся фантастика депрессивная. Смотри фильмы других стран. А лучше - собственную голову применяй.

Вполне возможно. К сожалению, он опередит нас. Системы принятия военного решения в глобальных конфликтах всё больше основываются на ИИ, потому что решения скоро нужно будет принимать почти мгновенно. И, как заметил Лем, системы ИИ будут ошибаться настолько быстро, что люди вмешаться, как это было в восьмидесятые, например, годы прошлого века, не успеют :(

ИИ - всего лишь набор алгоритмов. Его формируют для определённых целей определённые люди. Если кто ( у кого хватает для этого ресурсов ) поставит перед собой такую цель, он использует для этого более простые и доступные методы.

пупкин быстрее уничтожит

Трансформером света

Не боись. Опередим.
... уничтожим сами.

Никак. Предложение моратория на разработки ИИ нескольких крупных игроков не поддержаны.

Самим уничтожить раньше него?

ИИ
...