Согласно новому исследованию OpenAI в партнерстве с Массачусетским технологическим институтом, более частое использование чат-ботов, таких как ChatGPT, может соответствовать росту одиночества и сокращению времени, проводимого за общением с другими людьми.
Те, кто проводил больше времени за набором текста или разговорами с ChatGPT каждый день, как правило, сообщали о более высоком уровне эмоциональной зависимости от чат-бота и проблемном использовании, а также о повышенном уровне одиночества, согласно исследованию, опубликованному в пятницу. Результаты были частью пары исследований, проведенных исследователями двух организаций, и не были рецензированы.
Запуск ChatGPT в конце 2022 года помог спровоцировать ажиотаж вокруг генеративного искусственного интеллекта. С тех пор люди использовали чат-ботов для всего: от кодирования до сеансов эрзац-терапии. Поскольку разработчики, такие как OpenAI, выдвигают более сложные модели и голосовые функции, которые позволяют им лучше имитировать способы человеческого общения, возможно, существует больший потенциал для формирования парасоциальных отношений с этими чат-ботами.
В последние месяцы возобновились опасения по поводу потенциального эмоционального вреда этой технологии, особенно среди молодых пользователей и людей с проблемами психического здоровья. В прошлом году Character Technologies Inc. подали в суд после того, как ее чат-бот якобы поощрял суицидальные мысли в разговорах с несовершеннолетними, включая одного 14-летнего подростка, который покончил с собой. Базирующаяся в Сан-Франциско компания OpenAI рассматривает новые исследования как способ лучше понять, как люди взаимодействуют с ее популярным чат-ботом и как он влияет на них. «Некоторые из наших целей здесь действительно заключались в том, чтобы дать людям возможность понять, что может означать их использование, и сделать эту работу для информирования ответственного дизайна», — сказала Сандхини Агарвал, которая возглавляет надежную команду ИИ OpenAI и является соавтором исследования.
Для проведения исследований исследователи в течение месяца следили за почти 1000 человек. Участники имели широкий спектр предыдущего опыта работы с ChatGPT и им случайным образом назначали текстовую версию или один из двух различных голосовых вариантов для использования не менее пяти минут в день. Некоторым было сказано вести открытые чаты обо всем, что они хотят; другим было сказано вести личные или неличные беседы с сервисом. Исследователи обнаружили, что люди, которые склонны более эмоционально привязываться к человеческим отношениям и больше доверяют чат-боту, с большей вероятностью чувствовали себя более одинокими и более эмоционально зависимыми от ChatGPT. Исследователи не обнаружили, что более привлекательный голос приводил к более негативному результату, заявили они.
Во втором исследовании исследователи использовали программное обеспечение для анализа 3 миллионов разговоров пользователей с ChatGPT, а также опрашивали людей о том, как они взаимодействуют с чат-ботом. Они обнаружили, что очень немногие люди на самом деле используют ChatGPT для эмоциональных разговоров. Это еще ранние дни для этого объема исследований, и остается неясным, насколько чат-боты могут заставить людей чувствовать себя более одинокими по сравнению с тем, насколько люди, склонные к чувству одиночества и эмоциональной зависимости, могут испытывать эти чувства, усугубленные чат-ботами.
Кэти Менгиинг Фанг, соавтор исследования и аспирант Массачусетского технологического института, сказала, что исследователи опасаются, что люди будут использовать результаты для вывода о том, что более широкое использование чат-бота обязательно будет иметь негативные последствия для пользователей. Исследование не контролировало количество времени, которое люди использовали чат-бота, как основной фактор, сказала она, и не сравнивало с контрольной группой, которая не использует чат-ботов.
Исследователи надеются, что работа приведет к большему количеству исследований того, как люди взаимодействуют с ИИ. «Сосредоточение внимания на самом ИИ интересно», — сказал Пэт Патаранутапорн, соавтор исследования и научный сотрудник Массачусетского технологического института. «Но что действительно важно, особенно когда ИИ развертывается в больших масштабах, так это понимание его влияния на людей».
