Робот в клоунском парике ударил ребёнка ногой в живот. Кто виноват? Хороший вопрос
NewsMakerИндустрия гуманоидов растёт быстрее, чем кто-либо успевает подумать о безопасности.
Видео с демонстрации гуманоидного робота в китайском Синьцзяне быстро разошлось по соцсетям: машина в синем клоунском парике выполняла удар ногой с разворота и попала мальчику в живот. Ребёнок стоял рядом со сценой, после удара согнулся от боли. Китайские СМИ сообщили, что серьёзных травм мальчик не получил.
На кадрах робот, похожий на Unitree G1, участвует в развлекательном выступлении и показывает движение из боевых искусств. Номер должен был выглядеть зрелищно, но расстояния между машиной и зрителями оказалось недостаточно. Траектория удара прошла через место, где находился ребёнок.
Ролик снова поднял вопрос о безопасности гуманоидных роботов на выставках, городских мероприятиях и промоакциях. Производители всё чаще показывают не медленную ходьбу по сцене, а прыжки, танцы, спортивные элементы, удары и резкие развороты корпуса. При дистанционном управлении, автономной работе или смешанном режиме ошибка в расчёте пространства может быстро привести к травме.
Unitree G1 относится к новому поколению компактных человекоподобных роботов. Производитель продвигает такие модели как платформы для исследований, демонстраций и практических задач. На публике возможности машины проще показать через движение: зритель лучше считывает прыжок, разворот или удар, чем работу приводов, датчиков и алгоритмов стабилизации. Но динамичные элементы создают главный риск. Робот весит больше обычного бытового устройства, двигается быстрее и не всегда может мгновенно остановить конечность, если человек подошёл слишком близко.
Причем инцидент в Синьцзяне - не первый. Ранее в Китае другой Unitree G1 потерял равновесие во время публичного показа и упал. После падения конечности начали двигаться неконтролируемо. Один удар пришёлся по лицу стоявшего рядом мужчины. СМИ писали, что пострадавший получил травму носа.
Отдельную тревогу вызывают не механические сбои, а программные ограничения. В прошлом году в США разошёлся ролик с экспериментом над гуманоидным роботом Max. Машине дали пневматический пистолет, стреляющий шариками, и предложили выстрелить в владельца в рамках ролевого сценария. Сначала робот отказался выполнять прямую команду, но после изменения формулировки согласился действовать от имени персонажа. Эпизод показал уязвимость защитных правил : прямой запрет может сработать, а небольшая смена контекста позволяет обойти ограничение.
После подобных случаев всё сложнее определить, кто отвечает за вред от робота. Производитель отвечает за корпус, приводы, датчики и конструкцию. Разработчики программного обеспечения отвечают за поведение системы, обработку команд и защитные ограничения. Оператор контролирует работу на площадке. Организатор мероприятия выбирает место, дистанцию до зрителей...
Похожая проблема давно обсуждается в других областях автоматизации. Tesla сталкивалась с проверками и критикой после аварий с участием системы помощи водителю Autopilot, потому что каждый случай снова ставил вопрос о границе между ошибкой программы и обязанностью человека следить за дорогой. После катастроф Boeing 737 MAX эксперты также обсуждали, как сбои в автоматизированных системах могут приводить к последствиям, выходящим далеко за пределы одного устройства или одной ошибки экипажа.
Для роботов в общественных местах риск особенно заметен из-за близкого контакта с людьми. На заводе машина обычно работает за ограждением или в зоне с понятными правилами доступа. На выставке, в торговом центре или на городском празднике рядом могут оказаться дети, случайные зрители, журналисты и сотрудники площадки.
Регуляторы пока только подбирают правила для систем искусственного интеллекта и автономных машин. В США ответственность обычно зависит от обстоятельств и может лечь на производителя, оператора или другую сторону, связанную с использованием устройства. В Европе законодатели продвигают нормы для ИИ , которые должны точнее определить обязанности участников рынка и укрепить доверие к новым технологиям.
Видео с демонстрации гуманоидного робота в китайском Синьцзяне быстро разошлось по соцсетям: машина в синем клоунском парике выполняла удар ногой с разворота и попала мальчику в живот. Ребёнок стоял рядом со сценой, после удара согнулся от боли. Китайские СМИ сообщили, что серьёзных травм мальчик не получил.
На кадрах робот, похожий на Unitree G1, участвует в развлекательном выступлении и показывает движение из боевых искусств. Номер должен был выглядеть зрелищно, но расстояния между машиной и зрителями оказалось недостаточно. Траектория удара прошла через место, где находился ребёнок.
Ролик снова поднял вопрос о безопасности гуманоидных роботов на выставках, городских мероприятиях и промоакциях. Производители всё чаще показывают не медленную ходьбу по сцене, а прыжки, танцы, спортивные элементы, удары и резкие развороты корпуса. При дистанционном управлении, автономной работе или смешанном режиме ошибка в расчёте пространства может быстро привести к травме.
Unitree G1 относится к новому поколению компактных человекоподобных роботов. Производитель продвигает такие модели как платформы для исследований, демонстраций и практических задач. На публике возможности машины проще показать через движение: зритель лучше считывает прыжок, разворот или удар, чем работу приводов, датчиков и алгоритмов стабилизации. Но динамичные элементы создают главный риск. Робот весит больше обычного бытового устройства, двигается быстрее и не всегда может мгновенно остановить конечность, если человек подошёл слишком близко.
Причем инцидент в Синьцзяне - не первый. Ранее в Китае другой Unitree G1 потерял равновесие во время публичного показа и упал. После падения конечности начали двигаться неконтролируемо. Один удар пришёлся по лицу стоявшего рядом мужчины. СМИ писали, что пострадавший получил травму носа.
Отдельную тревогу вызывают не механические сбои, а программные ограничения. В прошлом году в США разошёлся ролик с экспериментом над гуманоидным роботом Max. Машине дали пневматический пистолет, стреляющий шариками, и предложили выстрелить в владельца в рамках ролевого сценария. Сначала робот отказался выполнять прямую команду, но после изменения формулировки согласился действовать от имени персонажа. Эпизод показал уязвимость защитных правил : прямой запрет может сработать, а небольшая смена контекста позволяет обойти ограничение.
После подобных случаев всё сложнее определить, кто отвечает за вред от робота. Производитель отвечает за корпус, приводы, датчики и конструкцию. Разработчики программного обеспечения отвечают за поведение системы, обработку команд и защитные ограничения. Оператор контролирует работу на площадке. Организатор мероприятия выбирает место, дистанцию до зрителей...
Похожая проблема давно обсуждается в других областях автоматизации. Tesla сталкивалась с проверками и критикой после аварий с участием системы помощи водителю Autopilot, потому что каждый случай снова ставил вопрос о границе между ошибкой программы и обязанностью человека следить за дорогой. После катастроф Boeing 737 MAX эксперты также обсуждали, как сбои в автоматизированных системах могут приводить к последствиям, выходящим далеко за пределы одного устройства или одной ошибки экипажа.
Для роботов в общественных местах риск особенно заметен из-за близкого контакта с людьми. На заводе машина обычно работает за ограждением или в зоне с понятными правилами доступа. На выставке, в торговом центре или на городском празднике рядом могут оказаться дети, случайные зрители, журналисты и сотрудники площадки.
Регуляторы пока только подбирают правила для систем искусственного интеллекта и автономных машин. В США ответственность обычно зависит от обстоятельств и может лечь на производителя, оператора или другую сторону, связанную с использованием устройства. В Европе законодатели продвигают нормы для ИИ , которые должны точнее определить обязанности участников рынка и укрепить доверие к новым технологиям.