?

Log in

No account? Create an account

Previous Entry | Next Entry

Цифровое бессмертие

"Черное Зеркало", "Видоизменённый Углерод". Это из совсем недавнего. А до этого переснятый "Призрак в доспехах", "Превосходство" и ещё кучу всего, чего я не смотрел. Если уж за тему цифрового бессмертия плотно взялись киноделы, значит это кажется актуальным. Значит не таким уж далёким и нереальным кажется перенос сознания на цифровой носитель.

Есть такой проект OpenWorm. В числе прочего он предоставляет полную модель всех основых нервных и мышечных клеток червя нематоды. Можно поместить виртуального червя в цифровую среду, можно загрузить его в робота и он будет действовать как самый настоящий живой червяк. И это уже не кино, это сегодняшний день. Для тех, кто считает что человек по сути тот же червь, только нейронов больше, сие стопроцентное доказательство, что нас тоже можно оцифровать. Курцвейл, мужик далеко не глупый, обещает цифровое счастье уже через 10-15 лет, практически на расстоянии прямого плевка.

Я в реальность оцифровки не верю. Это была бы мощная победа материализма: если можно перенести человека в цифру - значит нет свободы воли. Если можно человека скопировать - значит нет души. Но интересно, где именно, на каком этапе захлебнётся технология. Тут много интересных вариантов. Есть один довольно страшненький, он меня пугает.

Издалека начну. Есть у нас разговорные боты - цифровые собеседники. Вот, например. При поверхностном разговоре бот довольно сносно может притворяться человеком, но рано или поздно будет пойман за шиворот. Если начать задавать ему вопросы на понимание, то очень рано. Хороший бот будет юлить, отвечать вопросом на вопрос или отшучиваться - всё, чтобы не выдать отсуствие понимания предмета беседы. При этом что такое "понимание" мы толком и не знаем. Трудно объяснить, что такое понимание и ещё труднее дать ему формальное определение. Но, тем не менее, после 5 минут беседы убеждаемся, что у бота никакого понимания нет - он просто пытается подобрать подходящую фразу, как студент-двоечник на зачёте.

К чему я клоню. Допустим, какую-то эрзац-копию сознания в цифровом всё-таки удастся сделать. Допустим эта копия будет производить впечатление настоящей личности, настоящего интеллекта, будет связно отвечать на вопросы, демонстрировать понимание, будет бодро махать рукой с экрана и даже узнаваться родными и друзьями. Но при длительном общении с копией почти у каждого возникнет недвусмысленное ощущение, что это зомби, что чего-то крайне важного до настоящего человека этой копии недостаёт, некого фактора Х. Это будет нечто более тонкое, чем "понимание" у чат-бота и ещё более сложно объяснимое, но оставляющее то же чувство общения с пустой болванкой, пусть и болванку с более интеллектуальной начинкой.

И теме не менее, для многих этого уровня будет достаточно, чтобы признать копию личностью. Скажут, да что такое понимание фактор Х? Никто же не знает, что это такое. Может и нет его на самом деле этого понимания фактора Х. А может быть, это был биологический придаток, который в цифровом виде только мешает. А настоящий человек, он как раз БЕЗ него.

Дадут цифровым зомби права. Нельзя будет говорить, что зомби не человек. Не толерантно. Пусть и "внутри" зомби никого нет, некому оскорбляться. Хотя демонстрировать оскорблённость не то что зомби, даже чат-бот может. Они станут принимать решения от которых мы будем зависеть. Некоторые будут звёздами ютуба, некоторые политиками. Абсурдно и страшно, всё равно что шутки ради выдвинуть в президенты видеокассету с записями выступлений Мао Цзэдуна и обнаружить, что она победила.

Posts from This Journal by “Психо” Tag

  • Киберпанк

    Поход с утра на работу всё равно что контрастный душ. Я выхожу из метро и вижу мир будущего. Улицы ярко освещены, десятиметровые билборды с рекламой…

  • Кризис среднего возраста

    Вспоминаю первую подростковую несчастную безответную любовь. И невысказанный вопрос "зачем?". Зачем всё так ужасно в жизни устроенно, что можно…

  • Без ответа

    Интересуюсь культурными нормами общения в интернетах. Есть один момент, у которого нет аналогов в устном общении - завершение разговора через…

  • Чат-ботность

    «Большинство людей слушают не с намерением понять; они слушают с намерением ответить». – Стивен Кови Спрашивают: а когда нейросеть определяет, где…

  • Удачу мы не выпустим из рук

    В последнее время слушал лекции по теории игр. Начал бессистемно, а теперь слушаю подряд лекции физтеха. Интересная штука. Не столько про математику,…

  • Споры

    Несколько дней назад был едва не втянут в дискуссию на тему всё ли я правильно в этой жизни понимаю вменяемости людей, которые в 21 веке…

Comments

( 100 comments — Leave a comment )
Page 1 of 2
<<[1] [2] >>
paracloud
Feb. 15th, 2018 12:31 pm (UTC)
В Черном зеркале есть по настоящему страшная серия, когда цифровую копию загружают твоё собственное сознание и заставляют работать прислугой в умном доме. Не будут цифровые зомби звездами ютуба или политиками. А будут рабами - сначала у оригинал, потом у мастер-копии.
romanetto
Feb. 15th, 2018 12:50 pm (UTC)
А потом будет освобождение рабов из рабства)
(no subject) - mozgosteb - Feb. 15th, 2018 12:57 pm (UTC) - Expand
(no subject) - paracloud - Feb. 15th, 2018 01:30 pm (UTC) - Expand
(no subject) - mozgosteb - Feb. 15th, 2018 01:51 pm (UTC) - Expand
(no subject) - anka_hulig - Feb. 15th, 2018 11:31 pm (UTC) - Expand
(no subject) - paracloud - Feb. 16th, 2018 07:59 am (UTC) - Expand
(no subject) - anka_hulig - Feb. 17th, 2018 08:53 am (UTC) - Expand
(no subject) - scholarpunk - Feb. 20th, 2018 08:52 am (UTC) - Expand
(no subject) - sts_52 - Feb. 21st, 2018 06:00 am (UTC) - Expand
(no subject) - scholarpunk - Feb. 21st, 2018 06:27 am (UTC) - Expand
(no subject) - talgaton - Oct. 8th, 2018 07:34 am (UTC) - Expand
(no subject) - scholarpunk - Oct. 8th, 2018 01:34 pm (UTC) - Expand
(no subject) - talgaton - Oct. 8th, 2018 01:40 pm (UTC) - Expand
(no subject) - scholarpunk - Oct. 8th, 2018 04:36 pm (UTC) - Expand
(no subject) - talgaton - Oct. 8th, 2018 05:12 pm (UTC) - Expand
1/2 - scholarpunk - Oct. 9th, 2018 01:48 am (UTC) - Expand
2/2 - scholarpunk - Oct. 9th, 2018 01:48 am (UTC) - Expand
anka_hulig
Feb. 15th, 2018 12:38 pm (UTC)
Фантастический рассказ вспоминается: правитель/король/президент после поднявшегося мятежа успевает сбежать с Земли, один, вместо других людей у него на корабле 'кубики' с личностями-матрицами разных известных людей - Аристотеля, Платона и т.д. Плюс 'кубики', записанные с родных и друзей. Чтоб скучно-одиноко не было. Вставляешь такой кубик в приемник, на экране появляется человек, можно беседовать, задавать вопросы, в том числе по текущей ситуации. И все эти кубики убеждали героя рассказа, что он поступил правильно, иначе бы погиб, а так есть шанс на то да се. А потом вдруг ГГ устанавливает связь с одним из ближайших соратников и узнает, что бои продолжаются, а его, сбежавшего, естественно, считают трусом.
- Но ты же говорил, что я поступил правильно, - слабо возражает ГГ.
- Когда я такое говорил? - удивляется соратник.
- Ну, не сам ты, а твоя матрица, списанная с тебя.
На это соратник лишь сплевывает и отключается. А наш герой выкидывает все кубики и разворачивает корабль, возвращаясь в тишине и одиночестве к реальным людям.

Edited at 2018-02-15 03:40 pm (UTC)
anka_hulig
Feb. 15th, 2018 12:59 pm (UTC)
Нашла - Роберт Силверберг "Как хорошо в вашем обществе", 1970 год
(no subject) - mozgosteb - Feb. 15th, 2018 01:12 pm (UTC) - Expand
(no subject) - scholarpunk - Oct. 9th, 2018 01:51 am (UTC) - Expand
romanetto
Feb. 15th, 2018 12:54 pm (UTC)
С ботом впервые поболтала ;) У знакомых бабушка общается с Алисой, бабушке очень нравится наличие собеседника.
mozgosteb
Feb. 15th, 2018 01:16 pm (UTC)
Я помню, первый бот, который сумел обмануть половину судей, притворялся школьником из Одессы.
livejournal
Feb. 15th, 2018 01:34 pm (UTC)
Здравствуйте! Ваша запись попала в топ-25 популярных записей LiveJournal северного региона. Подробнее о рейтинге читайте в Справке.
ivanov_petrov
Feb. 15th, 2018 02:58 pm (UTC)
Кажется более пугающим, что уже давно многие люди при попытках понять, люди ли, и за 5 минут, и за час беседы - ведут себя лдишь как пустые внутри
mozgosteb
Feb. 16th, 2018 01:40 am (UTC)
Этого пока не боюсь, потому что в таких случаях могу спрятаться за спасительной мыслью, что дело в моём неумении общаться. И всегда вспоминаю службу. Ребята были самые разные - самого разного уровня и в социальном смысле и в интеллектуальном. Кто-то производил впечатление полнейшего валенка. Да что там кто-то. Многие производили. Но неделя, месяц, полгода, год наконец. И какая-то глубина таки вылезала из каждого. В основном под давлением, конечно, потому что служба ставит человека в тяжелые и, главное, противоречивые условия, и он вынужден хоть как-то проявляться.

Вот что было бы без давления - не знаю.
(no subject) - talgaton - Oct. 8th, 2018 10:19 am (UTC) - Expand
(no subject) - mozgosteb - Oct. 8th, 2018 10:20 am (UTC) - Expand
quangel
Feb. 15th, 2018 03:09 pm (UTC)
Как только нейроны станут моделировать не транзисторами,а кубитами квантового процессора,появится "фактор Х". :)
mozgosteb
Feb. 16th, 2018 02:30 am (UTC)
Посмотрим. 15 лет - не так много. Но такой вариант меня тоже не шибко радует, уже по другим причинам.
(no subject) - lyuden - Feb. 20th, 2018 04:24 pm (UTC) - Expand
(no subject) - quangel - Feb. 20th, 2018 04:29 pm (UTC) - Expand
(no subject) - lyuden - Feb. 20th, 2018 04:43 pm (UTC) - Expand
egornebo
Feb. 15th, 2018 03:11 pm (UTC)
у тебя слово пропущено "При поверхностном разговоре бот довольно может притворяться человеком", смайл.
поболтал я с этим ботом, чота не впечатлился, дурак он дураком.
mozgosteb
Feb. 16th, 2018 01:22 am (UTC)
Спасиб, исправил.
Ага. Правда, тут, в комментариях, пишут, что и люди такими бывают)
(no subject) - egornebo - Feb. 16th, 2018 01:36 am (UTC) - Expand
(no subject) - Клалофудо Клалофу - Feb. 16th, 2018 09:09 am (UTC) - Expand
(no subject) - egornebo - Feb. 16th, 2018 09:11 am (UTC) - Expand
(no subject) - Клалофудо Клалофу - Feb. 16th, 2018 09:12 am (UTC) - Expand
(no subject) - egornebo - Feb. 16th, 2018 09:14 am (UTC) - Expand
esteveste
Feb. 15th, 2018 04:50 pm (UTC)
Напомнил:
mozgosteb
Feb. 16th, 2018 01:24 am (UTC)
Какая милота! Советский научпоп - едва ли не единственное, что вызывает во вне ностальгию =)
(no subject) - andeadd - Feb. 18th, 2018 01:26 pm (UTC) - Expand
freedom_of_sea
Feb. 15th, 2018 05:07 pm (UTC)
1. оцифрованный червь - фейк. Он не демонстрирует пищевого и полового поведения свойственного насттоящему червю. Только ползает. А значит, симуляция поддельная.

2. ""внутри" зомби никого нет, некому оскорбляться."

Внутри вас тоже некому оскорбляться. Не нейронным клеткам же с аксонами и дендритами.
mozgosteb
Feb. 16th, 2018 01:17 am (UTC)
1. Согласно тому, что я читал, пищевое демонстрирует, если роботу соответствующие датчики организовать. Насчёт полового не помню. Врут?
2. Я-то религиозный мракобес. Поэтому, стою на позиции что несмотря на то что в аксонах и дендритах никого нет, где-то я всё равно есть.
(no subject) - johnnie_pr - Feb. 21st, 2018 04:29 pm (UTC) - Expand
(no subject) - mozgosteb - Feb. 22nd, 2018 02:35 am (UTC) - Expand
(no subject) - johnnie_pr - Feb. 22nd, 2018 06:19 am (UTC) - Expand
(no subject) - mozgosteb - Feb. 22nd, 2018 06:20 am (UTC) - Expand
(no subject) - johnnie_pr - Feb. 22nd, 2018 06:23 am (UTC) - Expand
(no subject) - mozgosteb - Feb. 22nd, 2018 06:57 am (UTC) - Expand
manevich66
Feb. 15th, 2018 05:18 pm (UTC)
Тут с живыми то людьми общаешься ,думаешь нелюди ! А вообще с системой люди общаются и ничего ,выживают . Несмотря на полицию ,армию ,банки и старших по подъезду !
mozgosteb
Feb. 16th, 2018 02:28 am (UTC)
Выжить-то можно, кто ж спорит. Доводить до этого не хочется.
(no subject) - manevich66 - Feb. 16th, 2018 02:39 am (UTC) - Expand
elisa_liz
Feb. 16th, 2018 03:21 am (UTC)
Электрические сны Филиппа Дика смотрел?
mozgosteb
Feb. 16th, 2018 03:55 am (UTC)
Смотрел. Сначала с интересном, но быстро разочаровался.
(no subject) - elisa_liz - Feb. 16th, 2018 03:56 am (UTC) - Expand
(no subject) - mozgosteb - Feb. 16th, 2018 03:58 am (UTC) - Expand
(no subject) - elisa_liz - Feb. 16th, 2018 04:11 am (UTC) - Expand
(no subject) - mozgosteb - Feb. 16th, 2018 04:15 am (UTC) - Expand
(no subject) - elisa_liz - Feb. 16th, 2018 04:16 am (UTC) - Expand
(no subject) - mozgosteb - Feb. 16th, 2018 04:29 am (UTC) - Expand
(no subject) - elisa_liz - Feb. 16th, 2018 04:55 am (UTC) - Expand
andrey_zorin
Feb. 16th, 2018 03:49 am (UTC)
Страшно, не когда ИИ притворяется, что он разумен, а когда он начнёт притворяться, что он не разумен(с) не моё
mozgosteb
Feb. 16th, 2018 03:59 am (UTC)
Аватарка в тему)
nietzsche_brot
Feb. 16th, 2018 03:58 am (UTC)
Ха-ха. Чат-бот спалился на первом же вопросе: "какого цвета крокодил?".
mozgosteb
Feb. 16th, 2018 04:01 am (UTC)
Следующий вопрос: крокодил - это существительное или глагол?
(no subject) - nietzsche_brot - Feb. 16th, 2018 04:03 am (UTC) - Expand
(no subject) - mozgosteb - Feb. 16th, 2018 04:06 am (UTC) - Expand
Пффф.... - nietzsche_brot - Feb. 16th, 2018 04:13 am (UTC) - Expand
Re: Пффф.... - mozgosteb - Feb. 16th, 2018 04:14 am (UTC) - Expand
(no subject) - andeadd - Feb. 18th, 2018 01:26 pm (UTC) - Expand
Клалофудо Клалофу
Feb. 16th, 2018 09:11 am (UTC)
ρBot: Извини, друг. Что-то пошло не так и сейчас я не могу ответить тебе.

и так целый день.
сто лет одиночества. со мной не хотят общацца даже чат-боты.
andeadd
Feb. 18th, 2018 01:21 pm (UTC)
бот по ссылке более вменяемый чем Алиса!
mozgosteb
Feb. 18th, 2018 01:56 pm (UTC)
Уверен, что IBM Watson уделал бы их обоих с большим отрывом, но его нам так просто погонять не дадут
Page 1 of 2
<<[1] [2] >>
( 100 comments — Leave a comment )