ТМ
Татьяна Могилевцева
Хм.. . А как влезть в черный ящик? Достаточно универсальный способ, с которым я когда-то сталкивался - еще до старта обучения разбить все имеющиеся данные на обучающую и тестовую выборки. Напуская обученную сеть на тестовую, можно оценить ошибку предсказания. Как именно оценивать - зависит от поставленной перед сетью задачи (классификация или что еще) . Вообще говоря, результат такой оценки не однозначен и может зависеть от состава обеих выборок, но чем "плотнее" тестовая накрывает принципиально возможные входные данные - тем лучше для набора статистики по ошибкам.
Впрочем, Вы наверняка сами это знаете. Извиняюсь, если ничем не смог помочь.