Беспилотному КАМАЗу разрешили давить пешеходов

Компания Cognitive Technologies, занимающаяся разработкой системы управления беспилотного «КамАЗа», провела социологическое исследование для выявления моральных критериев поведения системы в критических ситуациях. Результаты исследования частично опубликованы на сайте компании.

В рамках исследования было опрошено 80 тысяч россиян из 47 регионов страны. В рамках опроса участникам демонстрировались 16 разных сценариев опасных ситуаций на дороге, в которых был задействован беспилотный автомобиль. Участникам опроса предлагалось выбрать один из наиболее подходящих для данной ситуации вариантов, описывающих поведение беспилотного автомобиля в описанном сценарии.

Оказалось, что 55 процентов опрошенных считает, что беспилотному автомобилю на скорости 80 километров в час следует сбить собаку, вышедшую на дорогу, вместо того, чтобы объехать ее через двойную сплошную линию с угрозой лобового столкновения с другим автомобилем или съехать в кювет с «неминуемым глобальным повреждениям автомобиля и критическим для жизни и здоровья травмам пассажира авторобота».

В аналогичной задаче с пешеходом вместо собаки 59 процентов участников опроса предложили съехать в кювет, однако 38 процентов опрошенных предложили давить пешехода. В точно такой же задаче, но с несколькими пешеходами, давить людей предлагали 26 процентов опрошенных, а 71 процент предложил съехать в кювет. Однако в случае с большим количеством пешеходов на дороге 47 процентов опрошенных не согласились со съездом в кювет при условии, что именно они будут пассажиром беспилотного автомобиля. Вместо этого участники опроса предложили различными способами определить «ценность жизни» возможных пострадавших, чтобы именно их спасение в случае неминуемого ДТП было наиболее приоритетным для беспилотного автомобиля.

В США и Франции ведутся аналогичные работы по исследованию этики убийства роботами людей. Работы показали, что западная этика гибкая, и приемлимое для людей решение зависит как от количественных показателей (сколько людей угробит робот Бендер), так и от того, входит ли в это число лично респондент и пострадает ли его имущество.

Настоящий материал самостоятельно опубликован в нашем сообществе пользователем Proper на основании действующей редакции Пользовательского Соглашения. Если вы считаете, что такая публикация нарушает ваши авторские и/или смежные права, вам необходимо сообщить об этом администрации сайта на EMAIL abuse@proru.org с указанием адреса (URL) страницы, содержащей спорный материал. Нарушение будет в кратчайшие сроки устранено, виновные наказаны.

Читайте также:

Комментарии о материале (сверху свежие):
  1. Федя (2016-01-28 23:54:32)
    ВВедут закон- больше двух не собираться на дороге.... \не думайте, что я злой\ это что бы могли разбежаться в разные стороны, а трое на дороге- один на месте останется.
  2. McLoud (2016-01-29 00:24:10)
    Если качественный софт - не убегут.
  3. Shveik (2016-01-29 00:26:14)
    Не успеют?
  4. Небритое прямоходящее (2016-01-29 00:29:29)
    "Господа, вы зря стараетесь. Он вас всех запомнил."
  5. Федя (2016-01-29 00:30:01)
    Двери будут открываться сами, как в анегдоте с таксистом и охотником чукчей.
  6. Федя (2016-01-29 00:31:27)
    Переходя через дорогу- буду закрывать один глаз, не узнает оно меня.
  7. Marquis de Grisver (2016-01-29 00:32:07)
    Опасные манёвры не должны быть в программе робота. На то он и робот - быть безопасным.
  8. Shveik (2016-01-29 00:35:23)
    Лучше оба и покрепче.
  9. Proper (2016-01-29 00:45:37)
    47 процентов пассажиров требуют давить пешехода. Это демократия, браза.
  10. Федя (2016-01-29 00:49:08)
    47:%:?*()_+= дебилов
  11. Proper (2016-01-29 00:53:08)
    Я думаю, что где-то так 67% пешеходов хотели бы давить пассажиров - но у них нет машины, чтобы эту мечту реализовать.
  12. Федя (2016-01-29 01:07:30)
    Пешеходы и пассаджиры=это те же пешкадралы. Только одних везут в какой то момент, а другие идут. Так что те которые шли, если их спросить, что они думают,когда будут ехать, возможно среди них тоже будет 47%.
  13. LarLeS (2016-01-29 01:30:28)
    где опрос проводился-среди какого контингента? что за компания такая? вот не поверю, что у нас 47% отморозков, или я живу в заповеднике где % отморозков не соответствует общероссийскому. и что-то опять источник не наблюдаю.
  14. Sagamor (2016-01-29 05:50:35)
    У меня на работе коллега поднял на капот девочку. В момент наезда три барышни (в неположенном месте) перебегали дорогу. Одна вернулась на обочину, одна добежала до разделительной полосы, ну а одна попала на капот. Две, которые не пострадали - не попали в протокол, вообще не упоминаются. В больничке сдуру написали "причинение тяжких", хотя девочка уже бегает. Чтобы провести её мед.переосвидетельствование надо ехать в другой город. Врач теперь не признается, что неправильно поставил диагноз. Курганский Илизаровский Центр КНИИЭКОТ, оказывается не имеет права сделать такое переосвидетельствование, хотя профиль ортопедия, что странно. Да! И всё зафиксировано на видеорегистратор. На основании него и строится всё обвинение. Зафиксировал небольшое превышение скорости. Тот случай, когда не надо говорить, что есть видеозапись. Вот такие дела. Коллега ждёт рассмотрения материалов.
  15. Shveik (2016-01-29 06:03:58)
    Может это (как точно дал им название Ричъ) "блевады центнер" помог...
  16. IZUM (2016-01-29 09:32:06)
    Был бы робот, то 47% гарантии, что оправдали..... А если серьезно, то есть шансы на компенсацию без уголовки.
  17. Grey67 (2016-01-29 10:25:45)
    Это да, этика кризисных решений - она такая гибкая :D . И сильно зависит от местонахождения индивида. Так шта пока человеки меж собой договориться не могут - рано роботам на дороги общего пользования. Тока обособленные туннели и эстакады.
  18. AlexZeus (2016-01-29 10:28:44)
    Н-да. Развлекаются разработчики программы не по детски. Тем кто им опрос составлял, руки бы поотрывать. Это ж надо - вынести в опрос вопросы персональных ценностей и моральных установок. Опрошенные получили сильнейший стресс, заказчик опроса не получил ровно никакой полезной информации, а составители опроса получили определенную, не очень хорошо пахнущую, репутацию. Победа, чо.
  19. HMagier (2016-01-29 11:44:47)
    Гыгыгы, людишки продолжают демонстрировать чудеса моральной стойкости.
  20. and (2016-01-29 12:19:43)
    Какие вообще могут быть опросы и демократия? Как говорят в армии: "Читайте Устав, там всё написано!" В ПДД есть конкретные формулировки и не надо изобретать велосипед. П. 10.1 ПДД: "... При возникновении опасности для движения, которую водитель в состоянии обнаружить, он должен принять возможные меры к снижению скорости вплоть до остановки транспортного средства." Никаких манёвров ПДД не предусматривает. Таким образом, водитель (или робот-водитель) имеет право предпринимать маневрирование с целью избежать аварии ТОЛЬКО тогда, когда он АБСОЛЮТНО уверен в их безопасности для всех участников движения. В противном случае (возможен вред одному, двум пешеходам, пассажиру и т.п.) - только экстренное торможение!
  21. Garipytch (2016-01-29 16:48:02)
    Не знаю на счёт софта,но пулемёт на кабине не помешает
  22. Gena (2016-01-29 16:57:57)
    ...и огнемёт.и цистерна огнесмеси.Вот и облик машины определился.
  23. T 100 (2016-01-29 23:27:40)
    Если по роботЯм - дык в программе будет "не превышать скорость" - и не превысят. ЕМНИП, 70% ДТП от превышения скорости. Пьяным или уставшим за руль не сядет (если техники перед выездом не протрут контакты спиртом :-) ). Это ещё сколько-то % аварийности вниз. Что же до людёв из 47% ... Вероятно, это, на сегодня, тот самый % трусов, мародёров и предателей - т.н. субпассионарии по Гумилеву, после 2-х революций , 3-х войн и кучи локальных войн, выкосивших массу пассионариев. Грустно. Хотя, в ЗахЕропе их уже больше 2/3, если не ошибаюсь...
  24. popkovsf65 (2016-01-30 01:05:58)
    Софт разный бывает. Смотря кто пишет софт. Прога может очень сильно осложнить жисть юзеру...
  25. Федя (2016-01-30 01:10:28)
    Трамваи, и те по рельсам ездить не могут.
  26. AlexZeus (2016-01-30 09:57:02)
    Слушайте, вот Вы же не видели формулировки вопросов, компоновки анкет и не знаете как составлялась выборка, а вот так легко обвиняете в чем то аж 47% людей. Не спешите вешать ярлыки. Учитывая что сама по себе тема опроса идиотская, наверняка он и составлен был также, что автоматически означает, что результаты его воспринимать серьезно нельзя. Так что судить людей по их ответам в этом опросе - просто глупо. А Гумилев не ученый, он поэт, и теория его - поэтический вымысел (гипербола такая), который кажется правдой, только потому что кто-то рассказывает о нем с серьезным лицом.
  27. T 100 (2016-01-30 14:42:59)
    Возможно я и не прав. Прошу простить. А поэт Гумилёв - это отец Л.Н Гумилёва, дважды доктора наук (история и география), о котором шла речь в моём посте.
  28. AlexZeus (2016-01-30 15:24:48)
    Л.Н Гумилёв - не доктор наук по географии - ВАК не утвердил его диссертацию (как раз по этногенезу). И он именно поэт, ознакомьтесь подробнее с его биографией.
  29. Платон-FP (2016-01-30 16:56:00)
    известна переписка между Л.Н.Гумилевым и Н.В.Тимофеевым- Ресовским по поводу верности теории этногенеза ( о биологическом веществе в природе влияющем на живую материю), которую предсказывал еще В.И.Вернадский... Помилуйте, а больше десяти книг и масса статей в научных журналах разьве не наука ...Не знаю может это и не открытие: трансгрессия Каспия, но именно после установления этого факта начались споры в советской печати и была остановлена переброска северных рек в Каспийское море...Так я помню, или не прав?Но с одним можно согласиться - да Гумилев как и оба его родителя был великим поэтом потому что кроме талантливых стихов и переводов проза его читается как поэзия. Завидую тем, кому посчастливелось побывать на его лекциях...
  30. Платон-FP (2016-01-30 17:03:59)
    http://gumilevica.kulichki.net/articles/Article32.htm =====чета несажмакивается, переписка, но весьма и весьма...кому интересен Гумилев не пожалеет, что много букв.
  31. T 100 (2016-01-30 17:19:05)
    Ув. AlexZeus! Простейшая биография Л.Н. Гумилёва - здесь: http://www.bibliotekar.ru/gumilev-lev/ Цитата: "C 1956 г. работал библиотекарем в Эрмитаже. В 1961 году защитил докторскую диссертацию по истории («Древние тюрки»), а в 1974 году — докторскую диссертацию по географии («Этногенез и биосфера Земли»). 21 мая 1976 года ему было отказано в присуждении второй степени доктора географических наук." В более подробном описании инцидента от самого Гумилева (в одной из его работ) отказ был мотивирован ИСКЛЮЧИТЕЛЬНО тем, что у него уже ЕСТЬ ОДНО ДОКТОРСКОЕ ЗВАНИЕ. Я не думаю, что Л.Н. нагло врет. Делаю вывод, что диссертация актуальна и второе докторское звание справедливо. А то, что вахтёры от науки решили "не пущать" - не отняло у научных трудов Л.Н. ни капельки ценности.
  32. AlexZeus (2016-01-30 18:08:31)
    "Вахтеры от науки" могли отказать и на формальных основаниях (хотя бы потому что диссертация имела отношения к ряду наук, весьма далеких от географии, антропологии, например) и по субъективным причинам (ну вот не нравился он им, да и работа в линию материализма не укладывалась), это не имеет значения, факт есть факт. Факт также и то, что последователи Гумилева предпочитают врать, когда говорят о наличии у него двух докторских степеней. Это уже много говорит о его последователях. И по поводу ценности - а в чем она собственно заключается: - В том что политики-популисты и диванные философы теперь могут обзывать народы разных стран пассионариями или субпассионариями? - Дает ли эта теория лучшее понимание исторических процессов в прошлом и настоящем? - Есть ли возможность использовать её для диагностики и проектирования социальных процессов? Вот если бы ответы на эти вопросы были положительны, тогда она бы имела ценность. А в текущей ситуации - это красивая теория, которая ни для чего не нужна и ничего не объясняет.
  33. AlexZeus (2016-01-30 18:51:11)
    По новой хронологии Фоменко написаны сотни книг, проводятся конференции, есть, вроде, даже целая специальная академия, которая на этой основе построена. По поводу Каспия - а Вы знали что из-за диссертации и монографий Гумилева по истории (про историю народа "хунну" и вообще формирование этносов Средней Азии) Китай отозвал территориальные претензии на Сибирь и Дальний Восток? Не путайте реальность и дурные фантазии тех, кто ищет славы для себя в тени гения. Кстати, за переписку спасибо, интересно.
Чтобы писать свои комментарии - надо залогиниться на сайте. Тогда и вид комментариев станет более красивым.