Беспилотному КАМАЗу разрешили давить пешеходов

Компания Cognitive Technologies, занимающаяся разработкой системы управления беспилотного «КамАЗа», провела социологическое исследование для выявления моральных критериев поведения системы в критических ситуациях. Результаты исследования частично опубликованы на сайте компании.

В рамках исследования было опрошено 80 тысяч россиян из 47 регионов страны. В рамках опроса участникам демонстрировались 16 разных сценариев опасных ситуаций на дороге, в которых был задействован беспилотный автомобиль. Участникам опроса предлагалось выбрать один из наиболее подходящих для данной ситуации вариантов, описывающих поведение беспилотного автомобиля в описанном сценарии.

Оказалось, что 55 процентов опрошенных считает, что беспилотному автомобилю на скорости 80 километров в час следует сбить собаку, вышедшую на дорогу, вместо того, чтобы объехать ее через двойную сплошную линию с угрозой лобового столкновения с другим автомобилем или съехать в кювет с «неминуемым глобальным повреждениям автомобиля и критическим для жизни и здоровья травмам пассажира авторобота».

В аналогичной задаче с пешеходом вместо собаки 59 процентов участников опроса предложили съехать в кювет, однако 38 процентов опрошенных предложили давить пешехода. В точно такой же задаче, но с несколькими пешеходами, давить людей предлагали 26 процентов опрошенных, а 71 процент предложил съехать в кювет. Однако в случае с большим количеством пешеходов на дороге 47 процентов опрошенных не согласились со съездом в кювет при условии, что именно они будут пассажиром беспилотного автомобиля. Вместо этого участники опроса предложили различными способами определить «ценность жизни» возможных пострадавших, чтобы именно их спасение в случае неминуемого ДТП было наиболее приоритетным для беспилотного автомобиля.

В США и Франции ведутся аналогичные работы по исследованию этики убийства роботами людей. Работы показали, что западная этика гибкая, и приемлимое для людей решение зависит как от количественных показателей (сколько людей угробит робот Бендер), так и от того, входит ли в это число лично респондент и пострадает ли его имущество.

Настоящий материал самостоятельно опубликован в нашем сообществе пользователем Proper на основании действующей редакции Пользовательского Соглашения. Если вы считаете, что такая публикация нарушает ваши авторские и/или смежные права, вам необходимо сообщить об этом администрации сайта на EMAIL abuse@newru.org с указанием адреса (URL) страницы, содержащей спорный материал. Нарушение будет в кратчайшие сроки устранено, виновные наказаны.

комментария 33

  1. Федя:

    ВВедут закон- больше двух не собираться на дороге….
    \не думайте, что я злой\
    это что бы могли разбежаться в разные стороны, а трое на дороге- один на месте останется.

    • McLoud:

      Если качественный софт — не убегут.

      • Shveik:

        Не успеют?

        • Небритое прямоходящее:

          «Господа, вы зря стараетесь. Он вас всех запомнил.»

          • Федя:

            Переходя через дорогу- буду закрывать один глаз, не узнает оно меня.

        • Федя:

          Двери будут открываться сами, как в анегдоте с таксистом и охотником чукчей.

      • Marquis de Grisver:

        Опасные манёвры не должны быть в программе робота. На то он и робот — быть безопасным.

        • Proper:

          47 процентов пассажиров требуют давить пешехода. Это демократия, браза.

          • Федя:

            47:%:?*()_+= дебилов

            • Proper:

              Я думаю, что где-то так 67% пешеходов хотели бы давить пассажиров — но у них нет машины, чтобы эту мечту реализовать.

              • Федя:

                Пешеходы и пассаджиры=это те же пешкадралы.
                Только одних везут в какой то момент, а другие идут.
                Так что те которые шли, если их спросить, что они думают,когда будут ехать,
                возможно среди них тоже будет 47%.

                • Grey67:

                  Это да, этика кризисных решений — она такая гибкая :D . И сильно зависит от местонахождения индивида.
                  Так шта пока человеки меж собой договориться не могут — рано роботам на дороги общего пользования. Тока обособленные туннели и эстакады.

                  • Федя:

                    Трамваи, и те по рельсам ездить не могут.

      • popkovsf65:

        Софт разный бывает. Смотря кто пишет софт. Прога может очень сильно осложнить жисть юзеру…

    • Sagamor:

      У меня на работе коллега поднял на капот девочку. В момент наезда три барышни (в неположенном месте) перебегали дорогу. Одна вернулась на обочину, одна добежала до разделительной полосы, ну а одна попала на капот. Две, которые не пострадали — не попали в протокол, вообще не упоминаются.
      В больничке сдуру написали «причинение тяжких», хотя девочка уже бегает. Чтобы провести её мед.переосвидетельствование надо ехать в другой город. Врач теперь не признается, что неправильно поставил диагноз. Курганский Илизаровский Центр КНИИЭКОТ, оказывается не имеет права сделать такое переосвидетельствование, хотя профиль ортопедия, что странно.
      Да! И всё зафиксировано на видеорегистратор. На основании него и строится всё обвинение. Зафиксировал небольшое превышение скорости. Тот случай, когда не надо говорить, что есть видеозапись. Вот такие дела. Коллега ждёт рассмотрения материалов.

      • IZUM:

        Был бы робот, то 47% гарантии, что оправдали…..
        А если серьезно, то есть шансы на компенсацию без уголовки.

  2. LarLeS:

    где опрос проводился-среди какого контингента? что за компания такая? вот не поверю, что у нас 47% отморозков, или я живу в заповеднике где % отморозков не соответствует общероссийскому. и что-то опять источник не наблюдаю.

    • Shveik:

      Может это (как точно дал им название Ричъ) «блевады центнер» помог…

  3. AlexZeus:

    Н-да. Развлекаются разработчики программы не по детски.
    Тем кто им опрос составлял, руки бы поотрывать. Это ж надо — вынести в опрос вопросы персональных ценностей и моральных установок. Опрошенные получили сильнейший стресс, заказчик опроса не получил ровно никакой полезной информации, а составители опроса получили определенную, не очень хорошо пахнущую, репутацию. Победа, чо.

  4. HMagier:

    Гыгыгы, людишки продолжают демонстрировать чудеса моральной стойкости.

  5. and:

    Какие вообще могут быть опросы и демократия? Как говорят в армии: «Читайте Устав, там всё написано!»
    В ПДД есть конкретные формулировки и не надо изобретать велосипед. П. 10.1 ПДД:
    «… При возникновении опасности для движения, которую водитель в состоянии обнаружить, он должен принять возможные меры к снижению скорости вплоть до остановки транспортного средства.»
    Никаких манёвров ПДД не предусматривает. Таким образом, водитель (или робот-водитель) имеет право предпринимать маневрирование с целью избежать аварии ТОЛЬКО тогда, когда он АБСОЛЮТНО уверен в их безопасности для всех участников движения. В противном случае (возможен вред одному, двум пешеходам, пассажиру и т.п.) — только экстренное торможение!

  6. Garipytch:

    Не знаю на счёт софта,но пулемёт на кабине не помешает

    • Gena:

      …и огнемёт.и цистерна огнесмеси.Вот и облик машины определился.

  7. T 100:

    Если по роботЯм — дык в программе будет «не превышать скорость» — и не превысят. ЕМНИП, 70% ДТП от превышения скорости. Пьяным или уставшим за руль не сядет (если техники перед выездом не протрут контакты спиртом :-) ).
    Это ещё сколько-то % аварийности вниз.
    Что же до людёв из 47% … Вероятно, это, на сегодня, тот самый % трусов, мародёров и предателей — т.н. субпассионарии по Гумилеву, после 2-х революций , 3-х войн и кучи локальных войн, выкосивших массу пассионариев. Грустно. Хотя, в ЗахЕропе их уже больше 2/3, если не ошибаюсь…

    • AlexZeus:

      Слушайте, вот Вы же не видели формулировки вопросов, компоновки анкет и не знаете как составлялась выборка, а вот так легко обвиняете в чем то аж 47% людей.
      Не спешите вешать ярлыки. Учитывая что сама по себе тема опроса идиотская, наверняка он и составлен был также, что автоматически означает, что результаты его воспринимать серьезно нельзя. Так что судить людей по их ответам в этом опросе — просто глупо.
      А Гумилев не ученый, он поэт, и теория его — поэтический вымысел (гипербола такая), который кажется правдой, только потому что кто-то рассказывает о нем с серьезным лицом.

      • T 100:

        Возможно я и не прав. Прошу простить.
        А поэт Гумилёв — это отец Л.Н Гумилёва, дважды доктора наук (история и география), о котором шла речь в моём посте.

        • AlexZeus:

          Л.Н Гумилёв — не доктор наук по географии — ВАК не утвердил его диссертацию (как раз по этногенезу). И он именно поэт, ознакомьтесь подробнее с его биографией.

          • T 100:

            Ув. AlexZeus! Простейшая биография Л.Н. Гумилёва — здесь:
            http://www.bibliotekar.ru/gumilev-lev/
            Цитата: «C 1956 г. работал библиотекарем в Эрмитаже. В 1961 году защитил докторскую диссертацию по истории («Древние тюрки»), а в 1974 году — докторскую диссертацию по географии («Этногенез и биосфера Земли»). 21 мая 1976 года ему было отказано в присуждении второй степени доктора географических наук.»
            В более подробном описании инцидента от самого Гумилева (в одной из его работ) отказ был мотивирован ИСКЛЮЧИТЕЛЬНО тем, что у него уже ЕСТЬ ОДНО ДОКТОРСКОЕ ЗВАНИЕ. Я не думаю, что Л.Н. нагло врет. Делаю вывод, что диссертация актуальна и второе докторское звание справедливо.
            А то, что вахтёры от науки решили «не пущать» — не отняло у научных трудов Л.Н. ни капельки ценности.

            • AlexZeus:

              «Вахтеры от науки» могли отказать и на формальных основаниях (хотя бы потому что диссертация имела отношения к ряду наук, весьма далеких от географии, антропологии, например) и по субъективным причинам (ну вот не нравился он им, да и работа в линию материализма не укладывалась), это не имеет значения, факт есть факт. Факт также и то, что последователи Гумилева предпочитают врать, когда говорят о наличии у него двух докторских степеней. Это уже много говорит о его последователях.
              И по поводу ценности — а в чем она собственно заключается:
              — В том что политики-популисты и диванные философы теперь могут обзывать народы разных стран пассионариями или субпассионариями?
              — Дает ли эта теория лучшее понимание исторических процессов в прошлом и настоящем?
              — Есть ли возможность использовать её для диагностики и проектирования социальных процессов?
              Вот если бы ответы на эти вопросы были положительны, тогда она бы имела ценность. А в текущей ситуации — это красивая теория, которая ни для чего не нужна и ничего не объясняет.

  8. Платон-FP:

    известна переписка между Л.Н.Гумилевым и Н.В.Тимофеевым- Ресовским по поводу верности теории этногенеза ( о биологическом веществе в природе влияющем на живую материю), которую предсказывал еще В.И.Вернадский… Помилуйте, а больше десяти книг и масса статей в научных журналах разьве не наука …Не знаю может это и не открытие: трансгрессия Каспия, но именно после установления этого факта начались споры в советской печати и была остановлена переброска северных рек в Каспийское море…Так я помню, или не прав?Но с одним можно согласиться — да Гумилев как и оба его родителя был великим поэтом потому что кроме талантливых стихов и переводов проза его читается как поэзия. Завидую тем, кому посчастливелось побывать на его лекциях…

    • AlexZeus:

      По новой хронологии Фоменко написаны сотни книг, проводятся конференции, есть, вроде, даже целая специальная академия, которая на этой основе построена.

      По поводу Каспия — а Вы знали что из-за диссертации и монографий Гумилева по истории (про историю народа «хунну» и вообще формирование этносов Средней Азии) Китай отозвал территориальные претензии на Сибирь и Дальний Восток?
      Не путайте реальность и дурные фантазии тех, кто ищет славы для себя в тени гения.

      Кстати, за переписку спасибо, интересно.

  9. Платон-FP:

    http://gumilevica.kulichki.net/articles/Article32.htm =====чета несажмакивается, переписка, но весьма и весьма…кому интересен Гумилев не пожалеет, что много букв.