?

Log in

No account? Create an account

Previous Entry | Next Entry

Цифровое бессмертие

"Черное Зеркало", "Видоизменённый Углерод". Это из совсем недавнего. А до этого переснятый "Призрак в доспехах", "Превосходство" и ещё кучу всего, чего я не смотрел. Если уж за тему цифрового бессмертия плотно взялись киноделы, значит это кажется актуальным. Значит не таким уж далёким и нереальным кажется перенос сознания на цифровой носитель.

Есть такой проект OpenWorm. В числе прочего он предоставляет полную модель всех основых нервных и мышечных клеток червя нематоды. Можно поместить виртуального червя в цифровую среду, можно загрузить его в робота и он будет действовать как самый настоящий живой червяк. И это уже не кино, это сегодняшний день. Для тех, кто считает что человек по сути тот же червь, только нейронов больше, сие стопроцентное доказательство, что нас тоже можно оцифровать. Курцвейл, мужик далеко не глупый, обещает цифровое счастье уже через 10-15 лет, практически на расстоянии прямого плевка.

Я в реальность оцифровки не верю. Это была бы мощная победа материализма: если можно перенести человека в цифру - значит нет свободы воли. Если можно человека скопировать - значит нет души. Но интересно, где именно, на каком этапе захлебнётся технология. Тут много интересных вариантов. Есть один довольно страшненький, он меня пугает.

Издалека начну. Есть у нас разговорные боты - цифровые собеседники. Вот, например. При поверхностном разговоре бот довольно сносно может притворяться человеком, но рано или поздно будет пойман за шиворот. Если начать задавать ему вопросы на понимание, то очень рано. Хороший бот будет юлить, отвечать вопросом на вопрос или отшучиваться - всё, чтобы не выдать отсуствие понимания предмета беседы. При этом что такое "понимание" мы толком и не знаем. Трудно объяснить, что такое понимание и ещё труднее дать ему формальное определение. Но, тем не менее, после 5 минут беседы убеждаемся, что у бота никакого понимания нет - он просто пытается подобрать подходящую фразу, как студент-двоечник на зачёте.

К чему я клоню. Допустим, какую-то эрзац-копию сознания в цифровом всё-таки удастся сделать. Допустим эта копия будет производить впечатление настоящей личности, настоящего интеллекта, будет связно отвечать на вопросы, демонстрировать понимание, будет бодро махать рукой с экрана и даже узнаваться родными и друзьями. Но при длительном общении с копией почти у каждого возникнет недвусмысленное ощущение, что это зомби, что чего-то крайне важного до настоящего человека этой копии недостаёт, некого фактора Х. Это будет нечто более тонкое, чем "понимание" у чат-бота и ещё более сложно объяснимое, но оставляющее то же чувство общения с пустой болванкой, пусть и болванку с более интеллектуальной начинкой.

И теме не менее, для многих этого уровня будет достаточно, чтобы признать копию личностью. Скажут, да что такое понимание фактор Х? Никто же не знает, что это такое. Может и нет его на самом деле этого понимания фактора Х. А может быть, это был биологический придаток, который в цифровом виде только мешает. А настоящий человек, он как раз БЕЗ него.

Дадут цифровым зомби права. Нельзя будет говорить, что зомби не человек. Не толерантно. Пусть и "внутри" зомби никого нет, некому оскорбляться. Хотя демонстрировать оскорблённость не то что зомби, даже чат-бот может. Они станут принимать решения от которых мы будем зависеть. Некоторые будут звёздами ютуба, некоторые политиками. Абсурдно и страшно, всё равно что шутки ради выдвинуть в президенты видеокассету с записями выступлений Мао Цзэдуна и обнаружить, что она победила.

Posts from This Journal by “Психо” Tag

  • Правосудие

    В свежевышедшем творении Netflix снова знакомый мотив, типичный для европейского и, отчасти, для американского правосудия. С убийцей система…

  • Что я увидел заглянув в Чёрное Зеркало

    Под катом размышления, почему 5й сезон Черного Зеркала всё ещё торт. Конечно, спойлеры. А вы как думали? Меня тронули первые две серии, а третья…

  • Бурдюк

    Общение в интернете, общение с незнакомыми людьми выматывает, иссушает. Тут никто, кроме меня, не виноват, я сам напрашиваюсь на контакт: пишу посты,…

  • "По стеклу не стучать. Животные вас видят. Просто они вас не любят."

    А вдруг логика изложения, логика персонажей, логика реального мира, наконец, исчезает из фильмов вовсе не из-за повального отупения сценаристов? Ну…

  • Последний звонок

    К слову о романтике последнего звонка. С третьего класса и до окончания школы романтические отношения обходили меня стороной. Ну как обходили. Я был…

  • Голоса в голове

    Сейчас заметил, что журналы в ЖЖ делятся на три типа: - Те что читаются в моей голове голосом автора (как я его себе представляю или помню) - Те что…

Comments

( 103 comments — Leave a comment )
Page 1 of 2
<<[1] [2] >>
paracloud
Feb. 15th, 2018 03:31 pm (UTC)
В Черном зеркале есть по настоящему страшная серия, когда цифровую копию загружают твоё собственное сознание и заставляют работать прислугой в умном доме. Не будут цифровые зомби звездами ютуба или политиками. А будут рабами - сначала у оригинал, потом у мастер-копии.
romanetto
Feb. 15th, 2018 03:50 pm (UTC)
А потом будет освобождение рабов из рабства)
(no subject) - mozgosteb - Feb. 15th, 2018 03:57 pm (UTC) - Expand
(no subject) - paracloud - Feb. 15th, 2018 04:30 pm (UTC) - Expand
(no subject) - mozgosteb - Feb. 15th, 2018 04:51 pm (UTC) - Expand
(no subject) - anka_hulig - Feb. 16th, 2018 02:31 am (UTC) - Expand
(no subject) - paracloud - Feb. 16th, 2018 10:59 am (UTC) - Expand
(no subject) - anka_hulig - Feb. 17th, 2018 11:53 am (UTC) - Expand
(no subject) - scholarpunk - Feb. 20th, 2018 11:52 am (UTC) - Expand
(no subject) - sts_52 - Feb. 21st, 2018 09:00 am (UTC) - Expand
(no subject) - scholarpunk - Feb. 21st, 2018 09:27 am (UTC) - Expand
(no subject) - talgaton - Oct. 8th, 2018 10:34 am (UTC) - Expand
(no subject) - scholarpunk - Oct. 8th, 2018 04:34 pm (UTC) - Expand
(no subject) - talgaton - Oct. 8th, 2018 04:40 pm (UTC) - Expand
(no subject) - scholarpunk - Oct. 8th, 2018 07:36 pm (UTC) - Expand
(no subject) - talgaton - Oct. 8th, 2018 08:12 pm (UTC) - Expand
1/2 - scholarpunk - Oct. 9th, 2018 04:48 am (UTC) - Expand
2/2 - scholarpunk - Oct. 9th, 2018 04:48 am (UTC) - Expand
anka_hulig
Feb. 15th, 2018 03:38 pm (UTC)
Фантастический рассказ вспоминается: правитель/король/президент после поднявшегося мятежа успевает сбежать с Земли, один, вместо других людей у него на корабле 'кубики' с личностями-матрицами разных известных людей - Аристотеля, Платона и т.д. Плюс 'кубики', записанные с родных и друзей. Чтоб скучно-одиноко не было. Вставляешь такой кубик в приемник, на экране появляется человек, можно беседовать, задавать вопросы, в том числе по текущей ситуации. И все эти кубики убеждали героя рассказа, что он поступил правильно, иначе бы погиб, а так есть шанс на то да се. А потом вдруг ГГ устанавливает связь с одним из ближайших соратников и узнает, что бои продолжаются, а его, сбежавшего, естественно, считают трусом.
- Но ты же говорил, что я поступил правильно, - слабо возражает ГГ.
- Когда я такое говорил? - удивляется соратник.
- Ну, не сам ты, а твоя матрица, списанная с тебя.
На это соратник лишь сплевывает и отключается. А наш герой выкидывает все кубики и разворачивает корабль, возвращаясь в тишине и одиночестве к реальным людям.

Edited at 2018-02-15 03:40 pm (UTC)
anka_hulig
Feb. 15th, 2018 03:59 pm (UTC)
Нашла - Роберт Силверберг "Как хорошо в вашем обществе", 1970 год
(no subject) - mozgosteb - Feb. 15th, 2018 04:12 pm (UTC) - Expand
(no subject) - scholarpunk - Oct. 9th, 2018 04:51 am (UTC) - Expand
romanetto
Feb. 15th, 2018 03:54 pm (UTC)
С ботом впервые поболтала ;) У знакомых бабушка общается с Алисой, бабушке очень нравится наличие собеседника.
mozgosteb
Feb. 15th, 2018 04:16 pm (UTC)
Я помню, первый бот, который сумел обмануть половину судей, притворялся школьником из Одессы.
livejournal
Feb. 15th, 2018 04:34 pm (UTC)
Здравствуйте! Ваша запись попала в топ-25 популярных записей LiveJournal северного региона. Подробнее о рейтинге читайте в Справке.
ivanov_petrov
Feb. 15th, 2018 05:58 pm (UTC)
Кажется более пугающим, что уже давно многие люди при попытках понять, люди ли, и за 5 минут, и за час беседы - ведут себя лдишь как пустые внутри
mozgosteb
Feb. 16th, 2018 04:40 am (UTC)
Этого пока не боюсь, потому что в таких случаях могу спрятаться за спасительной мыслью, что дело в моём неумении общаться. И всегда вспоминаю службу. Ребята были самые разные - самого разного уровня и в социальном смысле и в интеллектуальном. Кто-то производил впечатление полнейшего валенка. Да что там кто-то. Многие производили. Но неделя, месяц, полгода, год наконец. И какая-то глубина таки вылезала из каждого. В основном под давлением, конечно, потому что служба ставит человека в тяжелые и, главное, противоречивые условия, и он вынужден хоть как-то проявляться.

Вот что было бы без давления - не знаю.
(no subject) - talgaton - Oct. 8th, 2018 01:19 pm (UTC) - Expand
(no subject) - mozgosteb - Oct. 8th, 2018 01:20 pm (UTC) - Expand
quangel
Feb. 15th, 2018 06:09 pm (UTC)
Как только нейроны станут моделировать не транзисторами,а кубитами квантового процессора,появится "фактор Х". :)
mozgosteb
Feb. 16th, 2018 05:30 am (UTC)
Посмотрим. 15 лет - не так много. Но такой вариант меня тоже не шибко радует, уже по другим причинам.
(no subject) - lyuden - Feb. 20th, 2018 07:24 pm (UTC) - Expand
(no subject) - quangel - Feb. 20th, 2018 07:29 pm (UTC) - Expand
(no subject) - lyuden - Feb. 20th, 2018 07:43 pm (UTC) - Expand
egornebo
Feb. 15th, 2018 06:11 pm (UTC)
у тебя слово пропущено "При поверхностном разговоре бот довольно может притворяться человеком", смайл.
поболтал я с этим ботом, чота не впечатлился, дурак он дураком.
mozgosteb
Feb. 16th, 2018 04:22 am (UTC)
Спасиб, исправил.
Ага. Правда, тут, в комментариях, пишут, что и люди такими бывают)
(no subject) - egornebo - Feb. 16th, 2018 04:36 am (UTC) - Expand
(no subject) - Клалофудо Клалофу - Feb. 16th, 2018 12:09 pm (UTC) - Expand
(no subject) - egornebo - Feb. 16th, 2018 12:11 pm (UTC) - Expand
(no subject) - Клалофудо Клалофу - Feb. 16th, 2018 12:12 pm (UTC) - Expand
(no subject) - egornebo - Feb. 16th, 2018 12:14 pm (UTC) - Expand
esteveste
Feb. 15th, 2018 07:50 pm (UTC)
Напомнил:
mozgosteb
Feb. 16th, 2018 04:24 am (UTC)
Какая милота! Советский научпоп - едва ли не единственное, что вызывает во вне ностальгию =)
(no subject) - andeadd - Feb. 18th, 2018 04:26 pm (UTC) - Expand
freedom_of_sea
Feb. 15th, 2018 08:07 pm (UTC)
1. оцифрованный червь - фейк. Он не демонстрирует пищевого и полового поведения свойственного насттоящему червю. Только ползает. А значит, симуляция поддельная.

2. ""внутри" зомби никого нет, некому оскорбляться."

Внутри вас тоже некому оскорбляться. Не нейронным клеткам же с аксонами и дендритами.
mozgosteb
Feb. 16th, 2018 04:17 am (UTC)
1. Согласно тому, что я читал, пищевое демонстрирует, если роботу соответствующие датчики организовать. Насчёт полового не помню. Врут?
2. Я-то религиозный мракобес. Поэтому, стою на позиции что несмотря на то что в аксонах и дендритах никого нет, где-то я всё равно есть.
(no subject) - johnnie_pr - Feb. 21st, 2018 07:29 pm (UTC) - Expand
(no subject) - mozgosteb - Feb. 22nd, 2018 05:35 am (UTC) - Expand
(no subject) - johnnie_pr - Feb. 22nd, 2018 09:19 am (UTC) - Expand
(no subject) - mozgosteb - Feb. 22nd, 2018 09:20 am (UTC) - Expand
(no subject) - johnnie_pr - Feb. 22nd, 2018 09:23 am (UTC) - Expand
(no subject) - mozgosteb - Feb. 22nd, 2018 09:57 am (UTC) - Expand
manevich66
Feb. 15th, 2018 08:18 pm (UTC)
Тут с живыми то людьми общаешься ,думаешь нелюди ! А вообще с системой люди общаются и ничего ,выживают . Несмотря на полицию ,армию ,банки и старших по подъезду !
mozgosteb
Feb. 16th, 2018 05:28 am (UTC)
Выжить-то можно, кто ж спорит. Доводить до этого не хочется.
(no subject) - manevich66 - Feb. 16th, 2018 05:39 am (UTC) - Expand
elisa_liz
Feb. 16th, 2018 06:21 am (UTC)
Электрические сны Филиппа Дика смотрел?
mozgosteb
Feb. 16th, 2018 06:55 am (UTC)
Смотрел. Сначала с интересном, но быстро разочаровался.
(no subject) - elisa_liz - Feb. 16th, 2018 06:56 am (UTC) - Expand
(no subject) - mozgosteb - Feb. 16th, 2018 06:58 am (UTC) - Expand
(no subject) - elisa_liz - Feb. 16th, 2018 07:11 am (UTC) - Expand
(no subject) - mozgosteb - Feb. 16th, 2018 07:15 am (UTC) - Expand
(no subject) - elisa_liz - Feb. 16th, 2018 07:16 am (UTC) - Expand
(no subject) - mozgosteb - Feb. 16th, 2018 07:29 am (UTC) - Expand
(no subject) - elisa_liz - Feb. 16th, 2018 07:55 am (UTC) - Expand
andrey_zorin
Feb. 16th, 2018 06:49 am (UTC)
Страшно, не когда ИИ притворяется, что он разумен, а когда он начнёт притворяться, что он не разумен(с) не моё
mozgosteb
Feb. 16th, 2018 06:59 am (UTC)
Аватарка в тему)
nietzsche_brot
Feb. 16th, 2018 06:58 am (UTC)
Ха-ха. Чат-бот спалился на первом же вопросе: "какого цвета крокодил?".
mozgosteb
Feb. 16th, 2018 07:01 am (UTC)
Следующий вопрос: крокодил - это существительное или глагол?
(no subject) - nietzsche_brot - Feb. 16th, 2018 07:03 am (UTC) - Expand
(no subject) - mozgosteb - Feb. 16th, 2018 07:06 am (UTC) - Expand
Пффф.... - nietzsche_brot - Feb. 16th, 2018 07:13 am (UTC) - Expand
Re: Пффф.... - mozgosteb - Feb. 16th, 2018 07:14 am (UTC) - Expand
(no subject) - andeadd - Feb. 18th, 2018 04:26 pm (UTC) - Expand
Клалофудо Клалофу
Feb. 16th, 2018 12:11 pm (UTC)
ρBot: Извини, друг. Что-то пошло не так и сейчас я не могу ответить тебе.

и так целый день.
сто лет одиночества. со мной не хотят общацца даже чат-боты.
andeadd
Feb. 18th, 2018 04:21 pm (UTC)
бот по ссылке более вменяемый чем Алиса!
mozgosteb
Feb. 18th, 2018 04:56 pm (UTC)
Уверен, что IBM Watson уделал бы их обоих с большим отрывом, но его нам так просто погонять не дадут
Page 1 of 2
<<[1] [2] >>
( 103 comments — Leave a comment )