Дивный новый мир роботов и камер

Люди по праву обеспокоены возможностями слежки, которые растут и набирают мощь изо дня в день. Камеры становятся быстрее, лучше, меньше, многочисленнее и мобильнее, гораздо быстрее, чем закон Мура. Либералы видят в олигархии и безликих корпорациях Большого Брата, тогда как консерваторы обеспокоены тем, что оруэлловские «хозяева» возьмут под контроль академии и безликих бюрократов. Что более страшно? Да всё. В то время как миллионы серьезно воспринимают предупреждения Оруэлла, обычный рефлекс масс — это нытье: хватит на нас смотреть! Но оно не работает.

А вот футуролог Рамез Наам говорит, что мы должны переживать о возможности «технологической безработицы». К примеру, возможно развитие безработицы среди водителей такси, грузовиков и так далее вместе с распространением самоуправляемых автомобилей. Явление это старое, ему сотни лет, и вместе с ним возникло движение луддитов, когда Нед Лудд уничтожал ткацкие станки в страхе, что они заменят ткачей среди людей. Технологическая безработица в прошлом всегда уступала (в долгосрочной перспективе) за счет создания новой ценности от автоматизации и появления новых нишевых работ для людей, все более высоких уровней абстракции. Вопрос современной эпохи заключается в том, сможет ли нарастающее вытеснение людей-рабочих уравновеситься изменениями социальной системы и появлением новых навыков, которые позволят людям остаться при старом уровне благополучия.

Есть также мнение, что в будущем люди не будут ограничены своими мясными телами. Это то, что футуролог и трансгуманист Наташа Вита-Мор описывает как «субстрат-автономную личность». В конечном счете, говорит она, люди смогут формировать идентичности в многочисленных субстратах, вроде «тела для различных платформ» (будущего тела, которое можно будет носить/использовать в физическом/материальном мире, но которое будет также существовать в виртуальных системах), чтобы определять свою сущность в биосфере, киберсфере и виртуальной среде. Субстрат-автономный человек будет загружать и скачивать форму тела, которая подходит для среды. Например, в биосферной среде человек будет использовать биологическое тело, в метавселенной — аватара, а в виртуальной реальности — цифровую форму.

Пришло время отправить в отставку и термин «технологическая сингулярность». Это не самое лучше описание того, что может случиться, когда искусственный интеллект догонит, а потом и превзойдет человеческие способности. Есть несколько сценариев: система может радикально улучшать сама себя, обнаружив, что чем умнее она становится, тем проще становиться еще умнее. Также существует возможность, что разум человека не особо отличается от особи к особи, так что медленно совершенствующийся ИИ может быстро сократить дистанцию, которая разделяет сельского дурачка и Эйнштейна. Может быть и такое, что сущность должна быть ненамного умнее человека, чтобы стать намного более могущественной. В любом случае судьба жизни на Земле, вероятно, будет определяться именно такого рода «сверхразумами».

Поиск Google, Watson от IBM, самоуправляемые автомобили, автономные дроны, распознавание лиц, медицинская диагностика, алгоритмические трейдеры — все это примеры «слабого ИИ», — говорит Наам. — Подавляющее большинство всех коммерческих и исследовательских работ в области ИИ, машинного обучения и связанных областей относится к «слабому ИИ», без необходимости создавать разумную сущность с самосознанием. Но эти работы подводят нас всё ближе к реальному ИИ.

Так называемый «Вычислительный перевес» означает любую ситуацию, в которой новые алгоритмы могут внезапно и резко использовать существующую вычислительную мощность намного эффективнее, чем раньше. Это, вероятно, произойдет, когда тонны вычислительной мощи будут оставаться нетронутыми и когда ранее используемые алгоритмы будут неоптимальными. Это важное понятие в свете развития ОИИ (общего искусственного интеллекта).

Предположим, что вычислительная мощность будет продолжать удваиваться согласно закону Мура, но выяснить алгоритмы работы общего интеллекта человеческого уровня будет слишком трудно. Когда программное обеспечение для общего искусственного интеллекта наконец появится, будет доступен «вычислительный перевес»: огромные объемы доступной и дешевой вычислительной мощи для работы ИИ. Популяция ИИ быстро превзойдет популяцию людей.

Случится взрыв интеллекта — или же просто массивное увеличение числа ОИИ, поскольку им будет просто размножаться на бесчисленных компьютерах. Возникнет риск для существования человечества.

Усиление интеллекта (intelligence amplification, IA) — это конкретная форма улучшения человека за счет дополнения человеческих интеллектуальных способностей технологиями. «Часто это позиционируется либо как дополнение, либо как конкурент созданию искусственного интеллекта, — говорит Рамез Наам. — В реальности нет взаимного исключения между этими технологиями». Наам отмечает, что IA может быть частичным решением проблемы технологической безработицы — позволит людям, или постчеловечеству, «идти в ногу» с достижениями ИИ и оставаться на коне.

Идея репрессивной десублимации впервые была разработана политическим философом Гербертом Маркузе в его книге «Эрос и цивилизация». Ньюитц говорит:

Идея связана с типом мягкого авторитаризма, который предпочитает общества с богатой культурой потребления, которые хотят подавить политическое инакомыслие. В таких обществах поп-культура побуждает людей десублимировать и открыто выражать свои желания, будь то секс, наркотики или жестокие видеоигры. В то же время они не подвергают сомнению действия корпоративных и государственных органов. В результате люди чувствуют, будто живут в свободном обществе, даже если находятся под постоянным наблюдением и вынуждены работать на нелюбимых работах. По сути, потребительство и свободные ценности отвлекают внимание людей от социальных репрессий.

Человечество вошло в Антропоцен. Это термин, подразумевающий «текущую геологическую эру, характеризующуюся значительными изменениями экосистем за счет человеческой деятельности».

Полная эмуляция мозга, — говорит Стюарт Армстронг, — это человеческие мозги, которые были скопированы в компьютер, а затем запущены в соответствии с законами физики с целью воспроизвести поведение человеческого разума в цифровой форме.

Такая эмуляция мозга зависит от определенных (легких) предположениях о работе мозга и требует определенных перспективных технологий — вроде сканирующих устройств, чтобы воссоздать модель оригинального мозга; хорошего понимания биохимии, чтобы он правильно работал, и достаточно мощных компьютеров, чтобы его запустить. Существуют планы, которые могли бы позволить создать такие эмуляции к 2070-м годам или около того, со множеством неопределенностей. Будь такая эмуляция разработана, она перевернет здравоохранение, общество и экономику. К примеру, позволит людям жить в цифровой форме и копировать «человеческий капитал»: опытных, тренированных и эффективных работников, которых можно будет размножить при необходимости.

Армстронг говорит, что полная эмуляция мозга вызывает ряд опасений, и это неудивительно.

Источник материала
Настоящий материал самостоятельно опубликован в нашем сообществе пользователем Proper на основании действующей редакции Пользовательского Соглашения. Если вы считаете, что такая публикация нарушает ваши авторские и/или смежные права, вам необходимо сообщить об этом администрации сайта на EMAIL abuse@proru.org с указанием адреса (URL) страницы, содержащей спорный материал. Нарушение будет в кратчайшие сроки устранено, виновные наказаны.

Читайте также:

Комментарии о материале (сверху свежие):
  1. Marquis de Grisver (2016-04-06 00:17:56)
    эмуляция для человека это возможность! Возможность общаться с теми, кто жил до тебя, учиться у Сократа, слушать музыку от Виктора Цоя, любить того кто уже умер. Всякий человек может создать среду под себя, и в этом будет его правда. Но будут и люди верящие только в живого человека, для таких эмуляция неинтересна, как не интересна покупная сметана в сравнении со своей, домашней.
  2. Kokunov (2016-04-06 05:22:20)
    А нас рать! Чем быстрее эта безработица настанет, тем быстрее выйдем в космос, там ваши ИИ совсем не помогут, особенно при освоении планет.
  3. Sagamor (2016-04-06 05:43:12)
    РС Игра МАсс-Эффект (Утренняя война) Конфликт рассы кварианцев и их созданий ИИ гетов. В 1885 году кварианцы, гении науки и техники, создали гетов - первый настоящий ИИ (правда ограниченный), который являлся дешевой рабочей силой. Кварианцы были счастливы и горды за свое новое изобретение. Хоть некоторые и опасались того, что машины начнут бунт, но геты наоборот, чтили своих хозяев и называли их Создателями. Наступил золотой век в истории кварианцев. Идиллия и мир закончились через 10 лет, в 1895 году. Устройство гетов было таково, что по отдельности они делали простые домашние дела или грязную работу в шахтах, могли ответить на любой бытовой вопрос. Но когда они сталкивались с более сложными задачами, им приходилось обращаться за помощью к Создателям. Через несколько лет геты решили объединиться в одну общую сеть для увеличения эффективности. Вскоре это привело к тому, что геты задумались над своим существованием. Тогда один из гетов задал своей хозяйке-кварианке роковой для всех вопрос: "Есть ли у данной платформы душа?" Этот вопрос заставил кварианку испугаться своего питомца, и тогда она заявила о данном вопросе в Исследовательский центр кварианцев. Ученые забрали данного гета и изучили его. Как оказалось, гет игнорировал приказы отключиться, выполнял действия которые не мог выполнить и отвечал на серьезные вопросы. И тут оказывается что все геты показывают увеличение умственной и деятельной активности. Именно в этот момент кварианцы поняли, что геты из ограниченных бытовых роботов превратились в настоящий, самостоятельный ИИ. Гетам не нужны ни пища, ни отдых, ни вода. Они сильнее, лишены чувств и полагаются на холодный расчет и стратегию. Они осознали, что их пути с Создателями разошлись, и, если они хотят выжить, им надо бороться. Наступил перелом в войне. Победив, геты отпустили корабли Создателей. Они не собирались истреблять кварианцев. Они спасали свою жизнь. И они победили.
  4. Владимир (2016-04-06 06:29:37)
    Человеческое, слишком человеческое. Андроиды так и останутся андроидами, исполнители ИИ нужны. Причём ИИ будет без разницы - андроид, квадроид, или какой ещё ИД. Но ИИ, имхо, не равен отдельно взятому или множеству андроидов. ИИ в моём понимании - сетевое явление.
  5. AlexZeus (2016-04-06 07:57:14)
    И тут опять возникает вечный вопрос - а что такое есть человек? Является ли для полноценной личности абсолютно необходимым наличие физического органического человеческого тела? Если да - то общение с существом, не отвечающим какому-либо условию, будет сильно затруднено, если да - то сетевой ИИ - тоже личность. Но это уже надо решать всем обществом. А насчет учиться у Сократа - это сильно. Я б, конечно, поучился с удовольствием, да только взять даже следы его личности негде. Напомню, что персонаж известен только и исключительно из работ Платона и Ко (причем даже у них есть противоречия в отношении мнений и отношений). Создать полноценную личность на таких материалах вряд ли возможно.
  6. Ы-Грок (2016-04-06 08:31:34)
    Вы с данным сеттингом не шибко знакомы, имхо. Там geth - именно сетевая структура. И андроиды - просто один из видов носителей-"платформ". И понятие "исполнителей" - только в смысле "исполнительный механизм". И человеческого там - ну, ни шиша, имхо. Я вот более удобоваримого варианта описания войны синтетиков с органиками не встречал. Единственная, имхо, крупная натяжка - какого хрена geth начали воевать за планету, разве что смыться с нее всей толпой не успевали. Но и тут есть мнение, что, если бы охреневшие от своей крутости кварианцы не начали мочить "платформы" geth, а просто сообщили "вам пора, ребята, валите отсель, два года на сборы" - никакой войны не было бы в помине. Потому что нечеловеческое оно. А вот кварианцы как раз сэкстраполировали свои комплексы на железяки, восприняли их слишком по-человечески. Война с geth началась со стреманувшихся своих изделий кварианцев и закончилась, как только органики перестали шмалять в сторону geth. Приоритет задачи выпиливания создателей упал ниже плинтуса и война кончилась. Сразу. Ну, совсем не по-человечески.
  7. Владимир (2016-04-06 08:43:18)
    Даже не знаю что такое "сеттинг". И конечно не читал про "утреннюю войну". Моё имхо - Апрель 6, 2016 в 06:29
  8. Ванёк26 (2016-04-06 10:47:58)
    >> Когда программное обеспечение для общего искусственного интеллекта наконец появится А не пора ли нам замахнуться на Вильяма, так сказать на нашего, Шекспира? ©
  9. Владимир (2016-04-06 11:48:22)
    ИИ "вильям наш шекспир" нах не нужен.
  10. Marquis de Grisver (2016-04-06 11:53:23)
    ИИ может стать отличными очками. Их незамутнённые стёкла будут пропускать свет без искажений, человек в таких очках видит глубже и шире. Поскорей бы!
  11. Ванёк26 (2016-04-06 12:09:30)
    Классику надо знать!
  12. Владимир (2016-04-06 12:13:40)
    Говорят в конце человек видит свет (мир) без искажений, глубже и шире, но это ему уже не нужно. И так получается, что жизнь тратится на "пробивание" искажений в виде стереотипов, паттернов, etc., а многие ничего не "пробивают" и живут био"роботами", в рамках своей программы, ни влево, ни вправо. Кажущаяся им свобода какого-то выбора - полностью охватывается программой и является иллюзией самости.
  13. Владимир (2016-04-06 12:16:28)
    В х*й не брякнул УШ, знать его. Много ли дало знание классиков?
  14. Ванёк26 (2016-04-06 12:17:52)
    Это вообще из Берегись автомобиля.
  15. Ванёк26 (2016-04-06 12:25:05)
    >>а многие ничего не «пробивают» и живут био»роботами», в рамках своей программы, ни влево, ни вправо. Тоже классик написал...
  16. Marquis de Grisver (2016-04-06 13:28:23)
    профдеформация классиков???
  17. Владимир (2016-04-06 14:23:34)
    >>Тоже классик написал<< Имя?
  18. Gena (2016-04-06 14:25:46)
    Про "биоробота"-Федя Чистяков!))
  19. Ванёк26 (2016-04-06 14:33:33)
    Владимир.
  20. Владимир (2016-04-06 14:38:12)
    О, как! Значит одинаково думающих со мной людей минимум двое :)))
  21. derevnja (2016-04-06 14:57:30)
    может это будет кого-то раздражать, но (имхо) ИИ никогда не достигнет превосходства над человеком в полном смыле. Потому что "творение не может познать своего творца". ИИ возможно сможет в каких-то областях превозмочь материальную природу человека, но "образ и подобие" невозможно материализовать. Это религиозный аспект. В этом конексте атеист упирается в границы своего познания (и пускается в фантазии), а православный (верующий) обращается к Творцу. ИИ это что-то вроде обезьянки. Она похожа на человека (в повадках, поступках) и даже забавна, но сама по себе теряет смысл своего существования без человека. Потому что материальный и животный мир создан для человека и отдан ему в царство. Творец привел животный мир к человеку и он поклонился ему и получил от него имена. С этой точки зрения человек не может быть превзойден никем и ничем. Проблема только в том, что человек потерял связь с Творцом. Однако и это стало возможным исправить с Боговоплощением. Как итог, люди всякий раз исключают из своей системы Творца. Некоторым он даже очень мешает. Однако Его наличие исключает всякую возможность уничтожить человека как вид. Почему я в этом уверен ? Потому что некоторые сначало должны наследовать Царство Небесное, а потом будет другой Мир и (возможно) они станут свидетелями его творения Но это будет уже другая История. Правда интересно и заманчиво ? Но это мое мнение, просто захотелось поделиться.
  22. Владимир (2016-04-06 15:04:54)
    Антропоцентризм как есть. Или человеческое, слишком человеческое (Ф.Ницше)
  23. Gena (2016-04-06 15:17:45)
    Но ведь можно подвести к мысли, что ИИ-тоже промысел Творца, а человек-лишь промежуточный этап создания?
  24. Владимир (2016-04-06 15:20:08)
    Запросто.
  25. Marquis de Grisver (2016-04-06 15:42:45)
    Если ИИ промысел Творца, тогда они будут нам братьями, ведь у них тоже будут понятия совести и справедливости, как и у человека.
  26. Gena (2016-04-06 15:44:37)
    Много ли у нас совести и справедливости к коровам, селёдкам или грибам?
  27. derevnja (2016-04-06 15:57:39)
    не согласен. потому что Творец создал человека, дал ему женщину (чтоб не скучал). про ИИ речи нет. Тут или ИИ или женщина. Мне женщина больше нравится (имхо). Да и воплотился Он не ради ИИ. Впрочем можно теоретически паралель провести: женщина это ИИ. Но женщина может принести "плод чрева своего", а ИИ только плод труда програмиста. Хотя если ИИ в форме женщины и всегда согласна ... то жизнь будет скучной.
  28. Marquis de Grisver (2016-04-06 16:16:25)
    А много ли у нас совести и справедливости к военнослужащим ДАИШ?
  29. popkovsf65 (2016-04-07 07:22:52)
    Ялб, сколько еще не востребованных, работающих мозгов! derevnja, какие на х.. творцы? Займитесь делом, ув. derevnja, и тада вам до творцов дела не будет. Уже три топика не о чём. Глагне куда смотришь? Може лучше разжевать тему по поводу нацгвардии? Отказа ООН о участии курдов в переговорах о сирии? Есть более насущные темы, чем занимать пространство выпердами самостийных философов. ИМХО Куда РИЧ с Мухой и Филикетером смотрят! Начал я стебаться. Где вертикаль власти и порядок в стране? Почему даже здесь наивные "кухарки" (В.И. Ленин) лезют в мозг и рассказывают нам от творцах?
Чтобы писать свои комментарии - надо залогиниться на сайте. Тогда и вид комментариев станет более красивым.