?

Log in

No account? Create an account

Previous Entry | Next Entry

Этика роботов

На тех ресурсах, которые я посещаю, активно муссируется тема автономных легковушек и грузовиков (они же робомобили). И, т.к. робомобилю придется принимать все решения, которые обычно принимает живой водитель, то в обсуждения постоянно просачивается вопрос: нужна ли роботу-водителю этика или достаточно соблюдать ПДД (возможно, расширенные ПДД, адаптированные для робомобилей).

Очень интересно, что первая реакция на предложение ввести этические принципы для робота-водителя, совершенно одинакова и у программиста, понимающего, как могут работать электронные мозги, и у обывателя, для которого робот - чёрный ящик. Эта реакция - категорическое НЕТ. Никаких этических принципов. Только ПДД, только строгие правила. На мой взгляд, это иррациональное решение, основанное на страхе. Но прежде чем углубиться, пару слов о том, почему вообще возникают вопросы об этике.

Правила движения конфликтуют с другими ценностями. Например, правила требуют от водителя ехать по центру своей полосы. Однако, если справа едет широкая фура, а слева мотоцикл, то водитель обычно смещается влево, чтобы иметь одинаковое пространство для манёвра в обе стороны. Это не по правилам, но это разумно с точки зрения другой ценности - личной безопасности. Конечно, при этом, безопасность воруется у мотоциклиста. Или, другой крайний случай, на проезжую часть выскочил пьяный и тормозить уже поздно, а уклоняться опасно. Кто-то свернет в любом случае, кто-то нет. Кто-то примет различное решение, в зависимости от того, есть ли у него пассажиры. Значение ПДД здесь полностью вытеснено ценностью человеческой жизни, своей и чужой. Понятное дело, роботу придется в каждом случае принимать какое-то конкретное решение. Исходя из чего? Из строгих правил или следуя какой-то иерархии ценностей?

На самом деле альтернативы иллюзорны. Прежде всего, робомобиль будет минимизировать финансовый ущерб автокомпании. Нарушение правил на дороге - это штраф по фиксированному тарифу. Сбитый человек - это компенсация лечения и репутационные риски, косвенно влияющие на продажу. Повреждение самого автомобиля - это выплата страховки. Авария, нанесшея вред водителю - это и компенсация лечения и большие репутационные потери и прямое влияние на продажи - владелец, скорее всего, робомобиль больше не купит. В ситуации выбора автомобиль выберет наименее затратный по деньгам вариант. Из этого следует, что при аварии, автомобиль скорее задавит пешехода, чем свернет в кювет с риском жизни для водителя, т.к. пешеход обойдется дешевле. Если будет выбор - 5 пешеходов или водитель, наверное пешеходам повезло. Что там будет для трёх или для четырёх - надо считать в цифрах. Если министерство по транспорту такая арифметика не устраивает, они могут менять баланс, устанавливая различные штрафы. В идеале, можно настроить законы так, что решение по минимизации финансового ущерба будет совпадать с наиболее этичным решением.

Т.е., хотим мы того или нет, этика у роботов будет. И нарушение правил будет встроено в логику автомобиля. Так работает бизнес. А вот как к этому относиться - вопрос интересный.

Я вижу, что люди реально боятся доверить роботу принимать решение не на основе правил, а на основе ценностей, даже если с самими ценностями человек согласен. И это не просто страх, что робот поймёт ценности неправильно. И я и многие IT-специалисты, считают, что робот справится лучше, чем человек. Один форумчанин очень точно озвучил свою позицию: “я не сяду в машину, которая может меня целенаправленно угробить, лишь бы не врезаться в автобус с детьми”. Да, одно дело, когда тебя убивает какой-то безликий процесс типа наводнения, закон природы или правил дорожного движения, другое дело, когда участвует чья-то воля и тобой жертвуют, сочтя неважным. Принять второе намного тяжелее.

Вообще, проблема гораздо шире. Есть два кардинально разных подхода к этике. Есть деонтологическая этика. Это этика правил. Она предполагает, что действие важнее последствий. В широком смысле, деонтология наказывает нам не только стремиться к добру, но и делать это “добрым” путём. Нельзя преступать закон и этические нормы, даже если это в итоге приведет к чему-то хорошему.

Противоположный подход - консеквенциализм. Т.е. цель оправдывает средства, победителей не судят и т.д. Или, грубо говоря, нужно поступать так, чтобы добрые последствия действий перевешивали злые.

[Любимый пример]
В культовом, для всех IT-шников, произведении “Гарри Поттер и методы рационального мышления”, Гарри строжайше следует консеквенциализму, а Гермиона не менее ревностно проповедует деонтологию.


В чистом виде нельзя следовать ни тому, ни другому. Однако, трагедия в том, что все мы склонны разрешать консеквенциализм себе, но не другим. Это ясно как по автомобильной теме (пусть я буду ездить по обстоятельствам, а остальные - по правилам), так и в отношении соблюдения законов вообще. Себе можно разрешить нарушение закона, т.к. сам знаешь, что будет справедливо или что не нанесет значительного вреда. Другим (что людям, что роботам) - нет.

Когда я примеряю все эти этические темы на себя, то прихожу к неутешительному выводу. Мне трудно доверить другим людям нарушать правила, не только потому, что я типа умный, честный, могу оценить последствия и всегда поступать справедливо, а другие остальные глупцы и обманщики и не могут. Приходится признать, что я сам не очень умный и не очень честный. Т.е. мне самому, по сути, доверять нельзя. Чего уж тут говорить о ближних и дальних. И все, наверное, в глубине души, знают про себя тоже самое.

В психологии довольная стандартная тема - переносить собственные прегрешения на других. Например, те, кто ходит налево, меньше доверяют своим супругам, чем верные. Собственная неэтичность поразительным образом уменьшает веру в этичность других и наоборот.

Думаю, те же иррациональные мотивы вызывают страх перед мыслью, что робот-автомобиль будет руководствоваться этикой (принципами), а не правилами. Надеюсь, это не помешает развитию индустрии, ибо ездить мне хочется, а вот смотреть за дорогой как-то не очень.

Comments

xarita
Aug. 18th, 2016 03:14 pm (UTC)
Думаю, те же иррациональные мотивы вызывают страх перед мыслью, что робот-автомобиль будет руководствоваться этикой (принципами), а не правилами.

Ну правила ПДД у него все равно зашиты плюс правила "этики" в каких случаях давить.
Мы когда на курсах учились нам, например, говорили, что кошек и собак давить не раздумывая, столкновение с большим животным очень опасно, да и человек в лобовое прилетает как мешок цемента. Ну т.е. понятно, что все будут ориентироваться на авто и пассажира, а не на пешеходов, если мы людей исключим из процесса вождения совсем, так как преимущество должно быть у того, кто "играет по правилам". ;)
Вот смотри, статистика по ДТП:

dtp_diagramm_4

Сначала мы "подавим" процентов 20 пешеходов, кого как. Через какое-то время
3,7 и 9,2 отпадут точно. Это как с электричеством. Останутся кошки-собаки, дети, алкоголики, бабушки и другие недееспособные граждане. Их мы тоже "подавим". А что делать?! green peace нам ничего не сделает, ПФР скажет спасибо. Детей жалко, но это и сейчас огромная проблема.
А 79,3% причин аварий мы при этом убираем и ждем восстания машин, ага :)

НО! Есть 0,3%, которые нам не победить! ;) И которые приведут к краху любую идею в этом направлении. Пока мы кладем асфальт в дождь, никакое восстание машин нам не грозит! ;)

Edited at 2016-08-18 03:15 pm (UTC)
mozgosteb
Aug. 18th, 2016 03:58 pm (UTC)
Рад, что ты заинтересовалась темой!

>Ну правила ПДД у него все равно зашиты плюс правила "этики" в каких случаях давить.

Не совсем так.
Во первых, в отечественных правилах, например, насколько я знаю, нужно плавно тормозить, не допуская заноса. Т.е. кто там на дороге, кто у тебя в салоне совершенно не учитывается. Т.е. этику (подвергать ли свою жизнь опасности, или кого именно давить, если есть выбор) по сути оставляют на усмотрение водителя. То, что вам говорили на курсах, относится скорее к общеразумному поведению, а не к ПДД.

Во вторых, робомобили УЖЕ нарушают правила, в тех случаях, когда это разумно (я писал в начале пример про разметку). Это исключительно вопрос цены, т.к. штраф за подобное нарушение не предусмотрен или незначителен, а безопасность (которая тоже измеряется в деньгах) увеличивается. Т.е. соблюдение ПДД уже сейчас не ограничение, а только предпочтительная альтернатива.

Минус 80% аварий - это прекрасно! И вот эти 0,3%, как ты верно заметила, действительно будут склонять общественное мнение, прислушивающиеся не к статистике, а к своим иррациональным страхам, выступать против робомоилей =(.

А по поводу асфальта я настроен оптимистически. Действительно, кажется, будто наша страна в принципе не готова к инновациям, требующим дисциплины от исполнительных органов. У нас просто нет соответствующих традиций.

Но тут есть такой эффект, который я называю бюрократическим чудом. Взять скажем, таможню. Есть куча нелепых предписаний. Есть ленивые сотрудники на местах. Есть взяточники. Есть несколько внутренних подструктур, которые конкурируют и мешают друг другу. Растаможка груза занимает недели. Ты в этом во всем варишься и когда поступает распоряжение, скажем, честно провести по бумагам большое грузовое судно, скажем за день, кажется, что это в принципе невозможно. Но при участии руки сверху вдруг всё получается за 14 часов безо всяких срезаний углов. И это кажется, невероятным чудом. Но чудо это всего лишь ментальное, ломающее барьеры в голове. В реальности никакого чуда нет, просто в данный конкретный раз все участники отработали именно так, как и должны были работать всегда, каждый день.

Для робомоилей в России тоже видится много препятствий, но все они ментальные, реально ничего не мешает. Нужна воля сверху, нужен контроль и нужен опыт. Я думаю, можно взять небольшой город и обкатать все проблемы на нём. С общественным мнением тоже можно поработать, благо технологии давно обкатаны.
xarita
Aug. 18th, 2016 04:36 pm (UTC)
"Надеюсь, это не помешает развитию индустрии, ибо ездить мне хочется, а вот смотреть за дорогой как-то не очень."

Я просто тоже люблю, когда меня возят ;) Права уже давно просрочены, за руль я так и не села :)))
mozgosteb
Aug. 18th, 2016 05:19 pm (UTC)
А у меня была возможность нахаляву получить права в академии, но настолько душа не лежала к вождению, что я забил.
xarita
Aug. 18th, 2016 05:22 pm (UTC)
Мне очень нравилось водить машину где-то с 16 до 18 лет. Потом как отрезало.
mozgosteb
Aug. 18th, 2016 05:25 pm (UTC)
Практичное увлечение! Мне с 16-ти до 18-ти лет очень нравилось управлять космическим кораблём)
xarita
Aug. 18th, 2016 05:26 pm (UTC)
Ну не было у меня космического корабля! хнык-хнык :))
mozgosteb
Aug. 18th, 2016 05:31 pm (UTC)
Видишь, как тебе повезло. Я потерял интерес к космолётам, как и ты к автомобилю. Но у тебя остались полезные навыки, а у меня - нет.
(no subject) - xarita - Aug. 18th, 2016 05:36 pm (UTC) - Expand
(no subject) - mozgosteb - Aug. 18th, 2016 05:42 pm (UTC) - Expand
(no subject) - xarita - Aug. 18th, 2016 05:46 pm (UTC) - Expand
(no subject) - mozgosteb - Aug. 18th, 2016 06:02 pm (UTC) - Expand
(no subject) - xarita - Aug. 18th, 2016 06:03 pm (UTC) - Expand
xarita
Aug. 18th, 2016 05:20 pm (UTC)
Во первых, в отечественных правилах, например, насколько я знаю, нужно плавно тормозить, не допуская заноса. Т.е. кто там на дороге, кто у тебя в салоне совершенно не учитывается. Т.е. этику (подвергать ли свою жизнь опасности, или кого именно давить, если есть выбор) по сути оставляют на усмотрение водителя. То, что вам говорили на курсах, относится скорее к общеразумному поведению, а не к ПДД.

Не, в правилах ничего такого нет, ну только вот не так давно добавили пункт про "опасное вождение". То что нам говорили давить котиков, это как раз из разряда этики, типа жизнь людей важнее, не надо стоит подвергать опасности себя и участников движения даже если вы очень любите котиков.
mozgosteb
Aug. 18th, 2016 05:22 pm (UTC)
Ну, раз в правилах, то тем более этику и общеразумные доводы придется учитывать.
xarita
Aug. 18th, 2016 05:25 pm (UTC)
Ну да, но пока учитываем, все равно "подавим". ;) Но я бы рискнула.
mozgosteb
Aug. 18th, 2016 05:26 pm (UTC)
Наш человек!
mozgosteb
Aug. 18th, 2016 05:28 pm (UTC)
Будь здесь кровавый медведь, он бы предложил давить нарушителей специально)
xarita
Aug. 18th, 2016 05:34 pm (UTC)
Это будет еще и одним из способов самоубийств. Я про это забыла написать. Не самый надежный, конечно, но желающие найдутся. Хорошо только то, что виноватых в этом случае нет. И если под колеса твоей машины кто-то бросился, то чувством вины ты потом полжизни не страдаешь.

Вообще 20% это очень много, я думала люди умнее :(
mozgosteb
Aug. 18th, 2016 05:40 pm (UTC)
Да ну, кто же будет под колёса бросаться. Это нехилый риск выжить и остаться инвалидом, причем без возможности закончить начатое. Есть же похожий, но более надежный способ, воспетый ещё Львом Николаевичем =)
(no subject) - mozgosteb - Aug. 18th, 2016 05:43 pm (UTC) - Expand