Программисты, это правда что нейронные сети работают на своё усмотрение, и написавшие их сами не понимают как они думают?

Нет. Можешь посмотреть кучу примеров в сети. Я вот как-то смотрел прохождение первого уровня Марио нейронной сетью. Понадобилось несколько многочасовых роликов на это.
Исходя из того, что я увидел - нейронная сеть не думает, она бесконечно выполняет один и тот же алгоритм, постоянно меняя свои предпринимаемые действия для достижения цели. Например с игрой Марио:

Сначала было несколько десятков итераций, когда Марио просто шел и упирался в первую трубу, через 15-20 итераций программа пытается прыгать, прыгнет и тут же идет вперед, если не получается - все идет сначала и прыжок будет каждый раз выше, пока Марио все-таки не заберется на трубу и не сможет идти дальше. и т. д. Так же программа перепрыгивала врагов, иногда убивала даже, но в целом все шло именно по такому принципу. Марио застрял, умер или упал вниз в яму, все начинается сначала и программа идет уже по заранее созданному алгоритму действий. Спустя много-много часов программа таки прошла уровень.

Работой нейронных сетей никогда не интересовался, но понял это так.

Upd: Вот как это выглядит: https://www.youtube.com/watch?v=9AzrbmsIePs

нейронная сеть - это программа. программа не думает.
готовых решений много. так что зачастую да, использующие их люди не понимают, как оно всё работает.

Не путай нейронные сети с квантовыми компьютерами

все там жестко как по рельсам..
поэтому хакеры и профессиональная разведка
по всему миру прорываются через заслоны..

нет

нет конечно, фантастики намотрелся?

Это твои личные домыслы !?