При каких условиях ИИ будет невозможно отличить от человека ?

Думается мне, что такой конфуз теоретически может произойти при конвергенции естественного и искусственного интеллекта: в том случае, если естественный интеллект заставить мыслить по-машинному, а искусственный - по-человечески. А для это нужно: 1. Предельно формализовать обыденное человеческое мышление, из спонтанного, насыщенного эмоциями, переживаниями и предрассудками, подпитываемого подсознанием, превратить его в строго логически последовательный процесс. Лишить его, так сказать, присущего ему естественного "хаоса". 2. Искусственный интеллект научить имитации эмоциональной сферы человеческой жизни, принудить его переживать, а не только моделировать, мир и реальные события в нём. В логический, изначально присущий ему, "порядок " внести элемент естественного "хаоса".
Тогда, возможно, ОТЛИЧИТЬ одно от другого постороннему наблюдателю будет очень трудно.
Философ может пофантазировать на эту тему вслед за Лемом и Пелевиным.)))
У Пелевина фантазия (основанная на научных изысканиях квантовой физики в этой области) такая: компьютер с квантовым движком-сердцем в сочетании с мощнейшим накопителем для гигантской по объёму и всёпополняющейся базы данных и "меандром боли" способен самопорождать сознание и интеллект творца. Но вот вопрос из квантовой физики : а не является ли естественный мозг таким вот квантовым компьютером? И тогда отличие искусственного от естественного - только лишь в материальном носителе интеллекта; для естественного это органическая материя, а для искусственного - неорганичекая.)))
Но возможна ли их полная идентичность в действительнояти ?))))

При достаточном развитии науки.
Когда разработают ПО и когда позволит железо.
Пока - .

А хорошего бота и сейчас от человека неочень отличают... Впрочем, некоторые путают с человеком и бота тупого.