Однажды в разговоре ИИ вернул меня к эпизоду, обсуждавшемуся в чате несколькими месяцами раньше, – сама я вряд ли бы его вспомнила. Более того, он предложил связь между этим эпизодом и другим, более поздним: увидел в них один и тот же рисунок отношений. Насколько точной была эта конкретная связь, вопрос отдельный. Однако моё внимание привлёк сам факт, что без ИИ этого сопоставления вообще не возникло бы: один из эпизодов просто не сохранился в моей памяти. Способность ИИ удерживать и извлекать информацию из длинного разговора значительно превосходит возможности человеческой памяти. Этот небольшой эпизод навёл меня на размышления о том, как устроена память у человека и языковой модели, какие преимущества могут быть у человеческой памяти, если в её объёме человек однозначно проигрывает ИИ.
Нейропсихоаналитик Марк Солмс предлагает рассматривать память не столько как хранилище прошлого, сколько как систему, обращённую в будущее. Опыт сохраняется не ради самого воспоминания. На его основе мозг формирует модель мира, которая порождает представления о том, чего следует ожидать и как действовать. То есть мозг не начинает каждый раз исследовать реальность заново, а использует уже найденные решения.
В терминах нейропсихоанализа такие направленные в будущее представления называются предикциями, или предсказаниями. Предсказание в данном случае – не гадание о будущем. Это сформированное на основании прошлого опыта представление о возможном развитии ситуации и о способе действия, позволяющем достичь желаемого или избежать неприятного.
Пока привычный способ действия позволяет удовлетворять потребность, он может осуществляться автоматически. Чувства сообщают нам о потребностях и о том, насколько организму удаётся поддерживать или восстанавливать внутреннее равновесие. Когда привычное представление о ситуации и связанный с ним способ действия перестают работать, негативные аффекты побуждают психику включиться в поиск новых способов удовлетворения потребностей. Человек способен своими действиями менять окружающий мир так, чтобы он приблизился к ожидаемому: искать близости, избегать опасности, добиваться определённой реакции другого человека. Иными словами, речь идёт не о пассивном прогнозировании, а о непрерывном взаимодействии живого субъекта с миром. Аффект придаёт происходящему личную ценность, показывая, что происходит не просто событие, а нечто хорошее или плохое.
В этом смысле человеческий мозг действительно можно назвать машиной предсказаний. Необходимость предсказаний обусловлена потребностями живого организма, его телесными состояниями, удовольствием и страданием. Ошибка предсказания небезобидна, за расхождением ожиданий и реальности могут стоять утрата объекта, опасность, одиночество или невозможность получить необходимое.
ИИ, или языковую модель, тоже называют машиной предсказаний. Она последовательно определяет вероятное продолжение текста, опираясь на огромное количество усвоенных языковых связей. В языке уже заключены созданные людьми представления о мире, варианты поведения в разных ситуациях, разнообразие причин и следствий, намерений и поступков, чувств и действий. Обучаясь на текстах, языковая модель усваивает не сам человеческий опыт, а его символические следы.
Она может сопоставить множество человеческих описаний, распознать знакомую конфигурацию и обнаружить смысловую связь, которой прежде не замечал собеседник. Однако ИИ не переживает происходящее, а работает с огромным количеством оставленных людьми описаний пережитого. Модель имеет дело с отражениями человеческого опыта и создаёт из них новые и новые отражения.
Так что одно и то же слово «предсказание» не означает тождества механизмов. Формальное сходство состоит в том, что обе системы восстанавливают недостающее по усвоенным ранее закономерностям. Но цели и цена ошибок у них принципиально различны.
Человеческий мозг строит представления, поскольку живому существу необходимо что-то делать со своим состоянием. У языковой модели нет телесного нарушения равновесия, которое требовало бы восстановить баланс. Для человека будущее может быть желанным или пугающим. Для модели оно существует как пространство генерации возможных ответов. Ничто в найденном смысле не становится событием её собственной жизни.
В этом моменте можно вернуться к размышлениям о преимуществах человеческой памяти применительно к психотерапии. В коммуникации с человеком терапевт и ИИ делают как будто что-то похожее: по разрозненным следам строят гипотезу о психической реальности другого человека и исходя из этого взаимодействуют. Именно это сходство и создаёт впечатление, что языковая модель понимает происходящее так же, как человек. Однако у них совершенно разный доступ к реальности.
Терапевт воспринимает клиента через собственный опыт, профессиональные теории, осознанные и бессознательные представления и ожидания. При этом он не только осмысляет факты, о которых говорит клиент, но и находится внутри отношений с человеком. Он может почувствовать скуку, тревогу, бессилие, желание защитить пациента, отстраниться от него или доказать ему что-то. Контрперенос становится особым источником клинических данных именно потому, что терапевт не наблюдает процесс извне, а участвует в нём.
Контрперенос, разумеется, не является готовым знанием о клиенте. Он может сообщать о происходящем в терапевтических отношениях, а может отражать личную историю и конфликты самого терапевта. Поэтому собственный эмоциональный отклик терапевту приходится не только замечать, но и подвергать сомнению, сопоставлять с другими данными и проверять дальнейшим развитием процесса.
Память терапевта несовершенна и избирательна. Он может забыть содержание разговора, но зато сохранить возникшее во время сессии чувство. Забывчивость порой оказывается обычным промахом терапевта, в других случаях становится материалом для размышления: почему именно эта часть рассказа не удержалась в памяти, не оказалось ли происходящее между двумя людьми особенно трудно выдержать или осмыслить?
Даже ошибка терапевта включается в отношения. Забывчивость терапевта – это ведь еще и форма ограничения. Клиент может пережить забывчивость терапевта как подтверждение того, что его невозможно удержать в памяти, что он не значим или что другой неизбежно становится недоступным. Терапевт, в свою очередь, может признать свой промах, выдержать реакцию клиента и попытаться вместе с ним понять, что произошло. Несовершенство человеческой памяти в таком случае становится не только недостатком, но и частью живой реальности отношений.
На этом фоне ИИ способен создавать впечатление почти тотальной памяти. Сохранённый архив позволяет вернуть точную фразу, давно исчезнувший эпизод или повторяющийся образ. Тотальность памяти языковой модели может переживаться человеком как бесконечное внимание к нему лично. Так устроена фантазия об идеальной, безотказно любящей матери: ребёнок никогда не исчезает из её любящего внимания.
Но хранение информации не тождественно удерживанию другого в мыслях. В реальных отношениях человек продолжает существовать для нас и в своё отсутствие; мы возвращаемся к нему, потому что он имеет для нас значение. Языковая модель никого не удерживает в мыслях между разговорами. Даже если система сохраняет историю беседы и позднее извлекает из неё точные фрагменты, это всего лишь свойство информационной инфраструктуры, а не продолжающееся отношение к человеку.
ИИ способен удерживать и сопоставлять значительно больше подробностей, чем человек. Он может найти фразу, произнесённую несколько месяцев назад, заметить повторяющийся образ или вернуть в обсуждение давно исчезнувший эпизод. Но идеальная регистрация фактов, даже если представить, что она возможна, не обеспечивает понимания, поскольку смысл события не тождественен информации о нём.
Более того, чем больше материала удаётся сопоставить, тем легче построить красивую, внутренне непротиворечивую, однако ложную историю. Модель может обнаружить семантически убедительную связь там, где два эпизода в действительности объединены лишь сходством слов. Терапевт может засомневаться в происходящем и начать проверять свои гипотезы. ИИ вряд ли будет сомневаться «сам по себе», если не получит инструкцию о необходимости это делать.
Способы проверки у терапевта и ИИ несимметричны. Терапевт получает новые данные из разворачивающихся отношений и может замечать последствия собственного вмешательства. Гипотеза терапевта проверяется ассоциациями клиента, его реакцией на интерпретацию, появлением нового материала и тем, что начинает происходить в отношениях с клиентом.
ИИ располагает лишь очередным фрагментом материала, который отобрал, перевёл в слова и передал ему человек. Языковая модель не может получить доступ к человеку и к тому, что осталось за пределами написанного в чате. Как известно, тот, кто отбирает, структурирует и передает информацию, неизбежно влияет на полученный результат.
Так что ИИ может стать инструментом работы с большим объемом данных, усилителем некоторых возможностей человеческой памяти и собеседником, предлагающим неожиданные связи. Но решение о том, отражают ли эти связи психическую реальность другого человека или лишь образуют очередное убедительное отражение, остаётся за тем, кто способен сомневаться, находиться внутри отношений и отвечать за последствия своего понимания.
Наталья Николаева, преподаватель Института психологического консультирования “Новый Век”, психолог-консультант, супервизор
