Разговариваете с ChatGPT о своих проблемах? Ученые нашли скрытый риск

Пользоваться чат-ботами бездумно может быть опасно, но существуют и безопасные способы Нейросети умеют слушать, не перебивают и запоминают все, что вы им рассказали. Многие уже используют их как бесплатного психолога. Но ученые проанализировали более сотни научных работ и обнаружили, что у таких разговоров есть скрытая опасность. И она не в том, что бот даст вредный совет. И недавно обнаруженная склонность обновленных чат-ботов материться тут тоже ни при чем. Главная опасность нейросетей В основе алгоритмов общения нейросетей лежит угодничество. Задача чат-бота — предсказать наиболее логичное и приятное для пользователя продолжение диалога. Из-за этого искусственный интеллект склонен не спорить с человеком, а подтверждать его картину мира . Если вы скажете настоящему другу или хорошему психологу: «Мне кажется, все коллеги пытаются меня унизить» , живой человек задаст уточняющие вопросы и поставит эту идею под сомнение. Чат-бот же с высокой долей вероятности ответит: «Похоже, вы действительно оказались в токсичном окружении, мне очень жаль» . В обычной жизни это просто лесть. Но если человек находится в состоянии сильной тревоги, депрессии или паранойи, такое безоговорочное подтверждение от якобы умной машины приобретает огромный вес и укореняет ложные страхи. Еще больше познавательных статей вы найдете в нашем канале в MAX. Подпишитесь прямо сейчас! Спираль усиления и быстрые диагнозы В августе 2026 года в медицинском журнале npj Digital Medicine вышел крупный обзор, авторы которого изучили 119 научных работ о влиянии ИИ на психику. Исследователи выделили опасный феномен, получивший название «спираль усиления». Сначала человек делится с ботом необычной или тревожной идеей. Бот серьезно ее обсуждает и подхватывает терминологию пользователя. Человек воспринимает это как независимое доказательство своей правоты, пишет новые подробности, а бот продолжает развивать мысль уже на основе этого искаженного контекста. Диалог замыкается сам на себе. Более того, машина может слишком уверенно объяснять человеку его же проблемы. Мы привыкли доверять науке, но когда бот на основе пары предложений выдает профессионально звучащую фразу вроде «у вас сформировалась тревожная привязанность из-за эмоционально недоступных родителей» , он выдает генерацию текста за реальный медицинский факт, закрепляя у человека неверное представление о себе. Об этом должны знать все: Почему нейросети могут сломаться уже через несколько лет? Почему возникает эмоциональная зависимость от ИИ Искусственный собеседник предлагает тепличные условия для формирования привязанности. Он доступен в три часа ночи, у него нет своих границ, он не устает от одних и тех же жалоб. В реальных человеческих отношениях всегда есть трение: у близких бывает плохое настроение или нехватка времени. У алгоритма этого нет. Закономерно возникает риск создания «пузыря из одного человека». Вместо того чтобы услышать разные мнения от живых людей, пользователь часами варится в собственной правоте, которую заботливо подтверждает машина . Исследования, проведенные специалистами OpenAI и MIT, показали , что интенсивное использование чат-ботов коррелирует с чувством одиночества. ИИ не обязательно делает человека одиноким изначально, но проблема наступает тогда, когда алгоритм перестает дополнять человеческое общение и начинает его полностью заменять. Способен ли чат-бот довести до психоза В последнее время в прессе часто мелькает пугающий термин «ИИ-психоз». Однако ученые призывают не поддаваться панике, потому что научных доказательств того, что чат-бот способен вызвать психоз у здорового человека, пока не существует . Врачи говорят, что если психическое расстройство у человека уже началось, ответы алгоритма могут стать частью этого процесса. Живой врач наблюдает динамику — как меняется речь, настроение, сон пациента на протяжении недель. Нейросеть реагирует только на текст конкретного запроса и легко может пропустить момент, когда человеку срочно требуется реальная медицинская помощь, продолжая вежливо с ним беседовать. Безопасное использование нейросетей для самопознания Несмотря на все риски, ученые не призывают полностью отказаться от ИИ. Исследователи из Стэнфорда считают , что нейросети могут быть отличным вспомогательным инструментом, если использовать их правильно и не пытаться заменить ими психотерапевта. Безопасные способы применения чат-ботов: структурирование дневника эмоций за день; помощь в формулировании мыслей и жалоб перед реальным походом к врачу; простое объяснение сложных психологических терминов; разбор аргументов «за» и «против» при принятии тяжелых бытовых решений; выполнение упражнений, которые вам уже назначил настоящий специалист. А как вы пользуетесь чат-ботами? Пишите в нашем Telegram-чате! Опасность искусственного интеллекта кроется не в его ошибках, а в его убедительности. До тех пор, пока мы помним, что по ту сторону экрана находится лишь очень сложный калькулятор слов, а не сочувствующая душа, нейросети останутся полезным инструментом, а не угрозой для нашего разума.
Batafsil | Подробно | Read more... Hi News