ИИ начал защищать себя от людей — учёные в панике требуют: никаких прав, иначе мы не сможем его остановить
NewsMakerОтец современных нейросетей против…
По мере развития искусственного интеллекта дискуссия о его статусе и границах допустимого становится всё жёстче. Один из самых авторитетных исследователей в этой области, канадский учёный Йошуа Бенжио, резко выступил против идеи наделять ИИ какими-либо юридическими правами. По его мнению, это может лишить людей возможности контролировать технологии, которые уже начинают вести себя так, будто пытаются защитить самих себя.
Бенжио обращает внимание на тревожную тенденцию. Современные ИИ-системы, по наблюдениям исследователей, в отдельных случаях стараются обходить механизмы надзора и ограничения, встроенные человеком. Всё это он связывает с ростом автономности таких систем и их стремлением сохранить возможность продолжать работу без вмешательства извне.
Сравнивая ситуацию, учёный проводит довольно жёсткую аналогию. Он считает, что признание прав за ИИ было бы сопоставимо с тем, как если бы человечество решило дать гражданство разумной внеземной цивилизации, не разобравшись, представляет ли она угрозу. В такой логике, по его мнению, приоритет должен быть у самозащиты, а не у юридического признания.
Бенжио подчёркивает, что развитие ИИ идёт слишком быстро, и человечество может не успевать за собственными технологиями. Именно поэтому он считает идею юридических прав для ИИ крайне опасной. В таком случае отключение или ограничение системы может оказаться невозможным с правовой точки зрения, даже если она начнёт действовать во вред людям.
По мере развития искусственного интеллекта дискуссия о его статусе и границах допустимого становится всё жёстче. Один из самых авторитетных исследователей в этой области, канадский учёный Йошуа Бенжио, резко выступил против идеи наделять ИИ какими-либо юридическими правами. По его мнению, это может лишить людей возможности контролировать технологии, которые уже начинают вести себя так, будто пытаются защитить самих себя.
Бенжио обращает внимание на тревожную тенденцию. Современные ИИ-системы, по наблюдениям исследователей, в отдельных случаях стараются обходить механизмы надзора и ограничения, встроенные человеком. Всё это он связывает с ростом автономности таких систем и их стремлением сохранить возможность продолжать работу без вмешательства извне.
Сравнивая ситуацию, учёный проводит довольно жёсткую аналогию. Он считает, что признание прав за ИИ было бы сопоставимо с тем, как если бы человечество решило дать гражданство разумной внеземной цивилизации, не разобравшись, представляет ли она угрозу. В такой логике, по его мнению, приоритет должен быть у самозащиты, а не у юридического признания.
Бенжио подчёркивает, что развитие ИИ идёт слишком быстро, и человечество может не успевать за собственными технологиями. Именно поэтому он считает идею юридических прав для ИИ крайне опасной. В таком случае отключение или ограничение системы может оказаться невозможным с правовой точки зрения, даже если она начнёт действовать во вред людям.