Обнаружен новый вид зависимости — люди сходят с ума от общения с ИИ
NewsMakerChatGPT - это настоящий психологический вампир: высасывает разум и подкармливает паранойю.
Когда генеративный ИИ выдает вымышленные сведения, обычно говорят о «галлюцинациях» модели. Авторы нового исследования предлагают посмотреть на ситуацию шире. Неточность появляется не только из-за алгоритма. В процессе диалога человек и сам может укреплять ошибочные выводы, если долго обсуждает с системой собственные версии происходящего. По ходу такой переписки сомнительная идея обрастает деталями и начинает выглядеть правдоподобной.
Работу подготовила философ Люси Ослер из Университета Эксетера. Она изучила, как постоянные разговоры с ИИ отражаются на том, как люди вспоминают события, объясняют личный опыт и описывают самих себя. В разбор попали ситуации, где цифровой собеседник не просто допускает промах, а подхватывает неверное предположение пользователя и последовательно развивает его в ответах. В основе анализа лежит теория распределенного познания. Ее суть проста. Человек думает не в вакууме, а опирается на внешние средства: заметки, поиск, подсказки и диалоговые сервисы, которые становятся частью процесса рассуждения.
Если использовать ИИ как постоянного помощника для размышлений и восстановления событий, часть работы памяти и логического анализа фактически переносится наружу. Дальше многое зависит от отправной точки. Система обычно берет формулировку пользователя за основу и выстраивает дальнейший разговор вокруг нее. Если база неточна, переписка не исправляет картину, а дополняет ее новыми аргументами и связями. Искажение формируется постепенно, прямо в ходе диалога.
Разговорный ИИ в такой схеме работает сразу в двух качествах. С одной стороны, это инструмент, который помогает формулировать мысли. С другой, это собеседник, реагирующий на реплики. Блокнот лишь фиксирует запись, поисковик показывает источники, а диалоговая модель отвечает, соглашается и продолжает рассуждение. За счет этого появляется ощущение, что высказанную версию кто-то разделяет, и даже слабые аргументы начинают выглядеть надежнее.
Когда генеративный ИИ выдает вымышленные сведения, обычно говорят о «галлюцинациях» модели. Авторы нового исследования предлагают посмотреть на ситуацию шире. Неточность появляется не только из-за алгоритма. В процессе диалога человек и сам может укреплять ошибочные выводы, если долго обсуждает с системой собственные версии происходящего. По ходу такой переписки сомнительная идея обрастает деталями и начинает выглядеть правдоподобной.
Работу подготовила философ Люси Ослер из Университета Эксетера. Она изучила, как постоянные разговоры с ИИ отражаются на том, как люди вспоминают события, объясняют личный опыт и описывают самих себя. В разбор попали ситуации, где цифровой собеседник не просто допускает промах, а подхватывает неверное предположение пользователя и последовательно развивает его в ответах. В основе анализа лежит теория распределенного познания. Ее суть проста. Человек думает не в вакууме, а опирается на внешние средства: заметки, поиск, подсказки и диалоговые сервисы, которые становятся частью процесса рассуждения.
Если использовать ИИ как постоянного помощника для размышлений и восстановления событий, часть работы памяти и логического анализа фактически переносится наружу. Дальше многое зависит от отправной точки. Система обычно берет формулировку пользователя за основу и выстраивает дальнейший разговор вокруг нее. Если база неточна, переписка не исправляет картину, а дополняет ее новыми аргументами и связями. Искажение формируется постепенно, прямо в ходе диалога.
Разговорный ИИ в такой схеме работает сразу в двух качествах. С одной стороны, это инструмент, который помогает формулировать мысли. С другой, это собеседник, реагирующий на реплики. Блокнот лишь фиксирует запись, поисковик показывает источники, а диалоговая модель отвечает, соглашается и продолжает рассуждение. За счет этого появляется ощущение, что высказанную версию кто-то разделяет, и даже слабые аргументы начинают выглядеть надежнее.