Определение ИИ, как ИИ.

Хант в кн. "Искусственный интеллект" - высказался примерно так: "как только мы формализуем, что есть интеллект, мы его тут же смоделируем." Проблема, похоже, в том, что интеллект - неформализуемая штука. Можно определит его как способность вести "светскую беседу" - пожалуйста, соревнования имитаторов устраиваются. Распознаватели текста, голоса, переводчики с языков - замечательно, но интеллект не сводится к его отдельным проявлениям...

Почему невозможно? )) Всё что надо для этого сделать, это запрограммировать его так, что бы в своей работе он учитывал свой предыдущий опыт.

Это вполне возможно и реализуемо. Хотя и очень сложно, потому что сначала его надо научить этот опыт накапливать и анализировать. А анализирование мира, вот это уже совсем нетривиальная задача и по сути является самой сутью сознания (мышления). Это и является той сложностью, которую до сих пор никто решить не может. Точнее могут, но только в очень узких сферах... а для ИИ требуется такая анализация буквально во всём: он должен уметь понимать что он видит, что слышит, с кем говорит, о чём говорит, что в этот момент чувствует, какую эмоциональную окраску несёт то или иное событие и т. д.

Дело в том что программа может действовать только в заданном диапазоне. А настоящий ИИ, как вы заметили, может "развиваться" - то есть модернизировать сам себя, без участия создателя.
Пользуясь теми языками програмированния что у нас есть создать настоящий ИИ невозможно - даже если создать алгоритмы обучения, они будут ограничены.
В основе ИИ лежит то, что он должен сам писать свой код, дополняя и изменяя его в зависимости от ситуации.