Профессор MIT предупреждает в новой книге: кем мы становимся, когда общаемся с машинами

LLM может сгенерировать фразу вроде: «Звучит очень тяжело. Я понимаю, почему это тебя задело». Люди воспринимают эту фразу как проявление эмпатии. Но у LLM нет сострадания, они не испытывают эмоций и не чувствуют (вместе с нами) — они лишь имитируют эмпатию.

И всё же для многих людей LLM уже стали собеседниками, с которыми можно обсуждать человеческие и эмоциональные проблемы и ситуации. Их используют как советчиков при разбитом сердце, чтобы занять детей или даже заполнить пробел, когда терапевтическая помощь недоступна.

В своей новой книге «Искусственная близость: кем мы становимся, когда разговариваем с машинами» (Amazon) профессор MIT, социолог и психолог Шерри Тёркл предупреждает о последствиях для общества. Свою критику она основывает на наблюдениях и результатах исследований:

LLM, кажется, терпеливо слушают и редко возражают, при этом хвалят и делают комплименты. Реальные люди могут быть гораздо требовательнее, особенно когда речь идёт о разрешении эмоциональных конфликтов; общение с другими часто требует немалых усилий, как и поддержание отношений и сохранение контакта. Когда люди всё чаще делятся тревогами и конфликтами с чат-ботами и избегают разговоров с реальными людьми, они всё меньше практикуются в социальном взаимодействии в реальном мире и могут даже утратить способность воспринимать себя как существ, чья жизнь строится на отношениях с другими в разнообразном обществе. Чат-боты лишь имитируют эмпатию: они ничего не чувствуют и не проявляют подлинного интереса к благополучию собеседника. Это может быть очень опасно.

Дети и подростки особенно уязвимы. Детям ещё предстоит научиться отличать предметы от людей, взаимодействовать с окружающими, доверять другим и спокойно проводить время в одиночестве, чтобы развивать собственное воображение. Однако дети часто воспринимают чат-ботов как настоящего «человека в телефоне».

В конечном счёте аргумент Тёркл касается не только ИИ, но и наших отношений с удобством. Чем больше технологии избавляют нас от неловких ситуаций, тем меньше мы можем практиковаться в том, как с ними справляться. Это относится к социальным ситуациям не меньше, чем к поиску информации или самостоятельному накоплению знаний. Из-за интенсивного использования LLM общество может всё сильнее утрачивать оба этих умения. Или, как выражается автор:

«Мы утрачиваем навыки, необходимые нам как существам, строящим отношения. Мы также утрачиваем навыки в работе. Мы утрачиваем навыки в личных отношениях. Это происходит повсеместно».

И её рекомендация: что нам делать? Прежде всего, принять, что жизнь сопряжена с трудностями. Мы учимся на них, в том числе — а может, и особенно — потому, что это нелегко и требует усилий. Трудности — это не плохо, совсем наоборот. Нам нужно развивать способность преодолевать их и становиться сильнее. Если мы просто избегаем трудностей, то ничего не приобретаем; технологии ослабляют нас как личностей. Нам следует объединяться с другими людьми, создавать движение сопротивления и укреплять социальные связи в собственной жизни. Принимайте трение, которое несёт жизнь, ведь жизнь — это трение!