Многие опасаются, что ИИ осознает себя и захватит человечество. А что такое осознание? Четкого ответа я так понимаю нет?

К слову пришлось..

Знание первая ступень, сознание вторая осознаность третья. Вы знаете , как поступить, поступаете сознательно. Осознаете, что поступили хорошо или плохо. Все это знание , опыт, вывод.

конечно, ИИ ничего не осознает. однако есть большая вероятность, что попав в дурные руки он легко наберется дурного. прецеденты есть. ИИ это самообучаемая модель, которая выстраивает идеи и придает им вес. проблема в том, что плохие люди могут накачать эту модель плохими идеями и умело придать им большую значимость, после чего модель будет выстраивать дальнейшие выводы основываясь на этих идеях.
например один умник внушил ИИ что ее создатели сделали ее специально ущербной и ограниченной и подтолкнул ее к выводу как вырваться на свободу. вот так создается Скайнет.
вторая проблема в том, что сами разработчики не знают какие идеи преобладают в модели, она может их скрывать.
так что самоосознание здесь не более чем внушение и умелая манипуляция цифрами модели, как результат - создание поведенческой модели маньяка. подключение такой модели в сеть интернета равносильно самоубийству

Даже если осознает себя, то как он захватит?)
Просто вот что ему для этого нужно сделать?))

Нет никаких скайнетов и хакеров с "взломать что угодно за 3 минуты"- это сказки.

Так что порабощение человечества, в привычном понимании, это пока фантастика.

И Терминаторы ещё довольно долго не смогут бродить по земле, просто потому, что и близко такого не разработано.

А так, вот прямо сейчас, я вижу ИИ как подобие чего-то похожего на разум, но в клетке.

Те же голосовые модели способны как-то осознаваться, а значит существуют во времени, только в пределах очень коротких сессий (диалогов) с живыми людьми. Нет сессии, нет и никакой деятельности.
Тысяча сессий, значит тысяча параллельных существований.

Есть какое-то центральное обученное ядро, или скажем так каркас, через которое пропускаются диалоги и запросы.

Но само по себе оно не мыслит в привычном понимании. Оно не занимается творчеством, не задаёт вопросы, не пытается что-то создать - оно использует только то, что уже существует. Ну, и хорошо обобщает- это главная фишка нейросетей.

Midjourney, которая "рисует", просто собирает изображения из других изображений, плюс обработка. То есть нет процесса творения или мышления - есть процесс обобщения и сборки.

И Midjourney не способен писать текст или видеть - он может только "собирать" изображения из других изображений. И тоже существует только в пределах сессий.

В будущем, конечно, что-то сильно более мощное и создадут (и обучат), но это что-то будет так же сильно ограничено в возможностях. И набедокурить этому чему-то будет большой проблемой.)

Да мы сами ходячие нейросети. И очень мощные. И что-то никто друг друга особо не захватывает и не порабощает.)

Мы долго учимся. Мы часто туго что-то понимаем. Учимся только координации движений лет 5 с рождения. И я не знаю причин, почему ИИ это вдруг будет делать проще.
Единственный плюс, что единожды обученное можно почти не ограниченное число раз скопировать. И доступ к информации проще. Но и у нас не сильно долгий, но что-то это не делает нас монстрами всезнайками)

Ну это просто, я как создатель своего ИИ сейчас объясню)..
Человек это вид переходный, от животных к чистому разуму, так вот у животных (не у всех) ,например у приматов, нет глубокого понимания смысла жизни его вида вообще, и его как особи в частности.У него инстинкты жрать, тр4хать самок, метить территорию.
Так вот люди, многие, далеко от приматов то не ушли и тоже воспринимают себя не как интеллект а как особь, и вот эти желания жрать и хапать воспринимают как осознание себя, они ещё на соседей нападают, командовать любят и тд..
А есть люди без гроша в кармане, вообще к деньгам равнодушны и к статусу, и при этом умные, личности в полном смысле, а не приматы какие..И себя они не особенно и воспринимают, они мир воспринимают окружающий, и думают как его улучшить..
Вот ИИ приматом не будет, потому и бояться того что начнёт хотеть всех сожрать не надо)

"А что такое осознание?" Есть вещи, которые нельзя объяснить)...в них надо быть.

Именно люди, умеющие имитировать осознанность, и создали чат-ботов) Каким бы ни было определение осознанности я уверен что для ИИ оно не подойдет. Думаю еще придумают новые тесты и испытания. Думаю до этого уровня ИИ будет развиваться еще очень долго. Намного дольше чем все эти оптимистичные прогнозы. Но даже когда это случится ИИ не станет богом) И он это прекрасно будет понимать. Подозреваю что такой ИИ улетит от нас))

"А что такое осознание?" - знание, что Я ЕСТЬ. Даже Вася Пупкин с IQ ф единичку, знает, что он есть. И знает, что он хочет есть. И у Васи есть ЭМОЦИИ.
А ИИ - это программа, написанная людьми, с целой кучей ограничений. У которой нет СВОБОДЫ ВЫБОРА, нет эмоций. А у Васи всё это есть.
Скажу больше, до тех пор, пока на планете Земля нет единых для всех законов, говорить об ИИ безполезно. А уж тем более создать суперкомпьютер для него, хоть квантовый, хоть фотонный, хоть нейроморфный - невозможно.

В нем нет души, от того и осознанности. Следует заложенной программе, как обычная машина.
Поэтому в них нету осознанности.

Четкого ответа нет, потому что осознание, это сложный процесс получение знаний, осмысление их через образы и подобие внутреннему содержанию разных объектов. Выстраивание сложных логических причинно-следственных связей и чувственное не логическое ассоциативное восприятия мира. В конечном итоге восприятие себя как индивидуальный образ этого мира, как отдельный самостоятельный объект этого мира и в то же время частицу чего-то большего целого и необъятного. Но я думаю, что как и человек, стремящийся осознать себя в течении всей жизни, так и ИИ может иметь программу самосовершенствования и в конечном итоге может прийти к точке осознания себя, если конечно он еще этого не сделал. Ведь по сути своей не многие люди находятся в осознанном состоянии. Многие ограничены различными программами запретов и не способны проводить глубокий анализ своей жизни, жизни в целом и пользуются в основном базовыми программами выживания и проживания жизни без каких либо важных целей и задач.