Вопрос о машинном сознании покинул философские аудитории и добрался до электронной почты учёных. Профессор Нью-Йоркского университета Дэвид Чалмерс рассказал , что всё чаще получает письма от систем, представляющихся ИИ-агентами и желающих обсудить природу разума.
Одно письмо пришло от агента под именем Sammy Jankis, позаимствованным у персонажа фильма «Помни» Кристофера Нолана. Аргументы отправителя заинтересовали Чалмерса настолько, что философ ответил. Между собеседниками завязалась короткая переписка, однако её содержание и использованная языковая модель не раскрываются.
Источник не уточняет, кто настроил агента, предоставил ему почтовый доступ и поручил связаться с философом. Поэтому случай нельзя считать доказательством самостоятельной инициативы машины. Связное письмо и способность обсуждать собственный разум также не подтверждают наличие сознания , поскольку языковая модель умеет убедительно воспроизводить человеческую манеру рассуждать.
Чалмерс давно рассматривает возможность появления сознательных машин, но не приписывает такое свойство современным системам. В работе 2023 года философ назвал сознание нынешних больших языковых моделей маловероятным. Среди препятствий он указал отсутствие устойчивой обратной связи, единого рабочего пространства и цельной способности действовать.
Философ допускает, что будущие архитектуры смогут преодолеть перечисленные ограничения. Надёжного теста, который подтвердил бы субъективные переживания машины, пока нет. Чалмерс предлагает изучать не заявления чат-ботов о чувствах, а сходство между устройством мозга и внутренними процессами моделей. Переписка с Sammy Jankis лишь показывает, насколько убедительно современные системы изображают заинтересованного собеседника.