Я думаю, что мы совершили ошибку. Даже большую, чем когда лечили приносящими облегчение, но способствующими болезням препаратами.

Сонливость исчезла почти мгновенно: слишком страшно прозвучали слова. Особенно учитывая, что математик говорил спокойно, серьёзно и без малейшего намёка на шутку.

— Я всё пытался понять, что мне не нравится в мученьях: ведь они работают и помогают справиться с болезнями. Но боюсь, что этот способ может погубить всех… не сразу, возможно, даже через пару поколений. Но неизбежно. И, что самое страшное, если я прав — то меры надо принимать не затягивая.

Более того — надо запретить использовать мучения во всех случаях, кроме тех, когда речь идёт о жизни или смерти.

— Почему?! — возмутилась я. — Нет, я понимаю, что мучения неприятны, но они — очень сильный способ лечения. Без них мы за последнюю неделю сделали бы раза в три меньше. Да без них мы бы…

Игорь грустно, понимающе, улыбнулся.

— Стоп, — скомандовал химик, и я замолчала. — Теперь понятно, почему ты не хотел это говорить: мучения действительно принесли большую пользу, они выгодны и удобны, хотя и очень болезненны… — Илья сделал выразительную паузу и жестом показал, чтобы я не влезала в разговор.

— Да, мне не доставил удовольствия такой способ лечения, — кивнул математик. — Я понимаю, что напрашивается вывод о моём страхе перед следующими сеансами. Не могу отрицать — страх есть. Но причина не в нём. Сейчас попробую объяснить так, чтобы поняли не математики.

Игорь зажмурился и ненадолго подставил лицо лёгкому ветерку.

— При обучении адаптивной системы есть три основных типа обратной связи на действие: поощрение, безразличие и наказание.

Или, если брать шире, позитивная, нейтральная и негативная реакция. Кстати, позитивным может быть не только непосредственно физическое удовольствие, но и удовольствие более высоких порядков — похвала, понимание, что ты молодец, моральное удовлетворение и так далее. С негативным то же самое. Естественно, любой обучающийся стремится к позитиву и избегает негатива. Так происходит в норме.

Математик посмотрел на нас и, убедившись, что мы внимательно слушаем, продолжил:

— Но иногда эта связь нарушается: либо позитивный отзыв начинает воспринимается как негативный, либо негативный — как позитивный.

В первом случае систему вообще ничему не получится обучить, а вот второй не так однозначен. При превращении негативного отзыва в позитивный агент тоже теряет способность решать задачи, но по другой причине — он перестает проверять их на ошибки. То есть исчезает самоанализ, необходимость что-то менять — ведь и неправильная, негативная стратегия тоже начинает поощряться.