Математика. Ищу формулу для вычисления коэффициента хоатичности

Теорией хаоса не грузись . Все определяется моментами :
Среднее ̅x, среднеквадратичное отклонение
σ = корень (1/n* сумма (xi-̅x)^2)

http://tever.ru/view_tever.php?cat=sluchayniyevelichini&id=25

Наиболее употребимы следующие моменты:
αo = 1, α1 = M[X] , α2 = M[X2] , α3 = M[X3] ;
μo = 1, μ1 = 0 , μ2 = D[X] , μ3 = M[(X-m)3].

В физике и математике есть такая величина - энтропия. Но вот у Вас, очевидно, ещё нужно учитывать степень независимости, беспорядочности следования чисел. . тут надо искать и думать. По крайней мере я попытался бы это связать с энтропией.

Тео́рия ха́оса — математический аппарат, описывающий поведение некоторых нелинейных динамических систем, подверженных при определённых условиях явлению, известному как хаос (динамический хаос, детерминированый хаос) . Поведение такой системы кажется случайным, даже если модель, описывающая систему, является детерминированной. Для акцентирования особого характера изучаемого в рамках этой теории явления, обычно принято использовать название: теория динамического хаоса.
Примерами подобных систем являются атмосфера, турбулентные потоки, некоторые виды аритмий сердца, биологические популяции, общество как система коммуникаций и его подсистемы: экономические, политические и другие социальные системы. Их изучение, наряду с аналитическим исследованием имеющихся рекуррентных соотношений, обычно сопровождается математическим моделированием, эффект Коновала — распределение частот выпадения положительных результатов, или принятия правильных решений.

Чем мог тем помог)))