Дмитрий Чернышев (mi3ch) wrote,
Дмитрий Чернышев
mi3ch

меморандум Бромберга 3.0



Есть множество советов, посвященных тому, стоит ли дочитывать до конца начатую вами книгу. Например, существует правило 37 страницы – если вы ее не заметили, значит книга вас зацепила. Есть правило первой главы – если в первой главе автор не смог сказать ничего интересного для вас, значит вероятность того, что дальше в книге будет что-то стоящее, не очень велика. А мне больше нравится другой вариант – читать выжимки из книги и по ним определять, стоит ли покупать эту книгу, чтобы прочитать ее целиком. Сейчас у меня скачено две сотни саммари книг и ежедневно я читаю три-четыре выжимки по самым интересным для меня темам в Smartreading.ru.

И об одной из этих книг я хотел бы рассказать. Ее написал Макс Тэгмарк «Жизнь 3.0 Что значит быть человеком в эпоху искусственного интеллекта»

Но сначала небольшое вступление. Мы уже пережили несколько обещанных нам концов света и даже не заметили их. В 1980 году должен был наступить конец света в результате ядерной войны согласно бахаистской секте, соорудившей убежища в горах США. В 1993 году конец света обещало «Белое братство». В 1999 году – секта Аум Синрикё. В 2000 году – секта «Движение за возрождение десяти заповедей». В 2008 году – секта Петра Кузнецова, которая заперлась в пещере в Пензенской области. В 2011 году конец света предсказывал американский проповедник с уютной фамилией Кэмпинг. В 2012 году должен был наступить конец света от майя. Три недели назад земляне с трепетом ждали столкновения с планетой Нибиру.

Но были и более серьезные опасности – например, ядерная война. Или мальтузианская ловушка. Существовала вероятность того, что в пятницу 13 ноября 2026 года население Земли достигло бы бесконечности. Я понимаю, что это звучит несколько странно – как может количество людей достигнуть бесконечности? Сомневающихся отсылаю к статье «Теорема о конце света». По не совсем понятным нам причинам Закон гиперболического роста численности населения Земли, который действовал десятки тысяч лет, прекратил свое действие в 60-70 годах двадцатого века.




Но избежав популяционной сингулярности человечество на всех парах несется к сингулярности технологической. И пока нет никаких предпосылок к тому, что научный прогресс в какой-то момент остановится или хотя бы замедлится. Рэймонд Курцвейл считает, что сингулярность наступит в 2045 году, Вернор Виндж ставит еще более близкие сроки – 2030 год. Помните «Меморандум Бромберга» у Стругацких: «человечество будет разделено на две неравные части по не известному нам параметру, меньшая часть его форсированно и навсегда обгонит большую, и свершится это волею и искусством сверхцивилизации, решительно человечеству чуждой».

Старший консультант КОМКОНа-1, член Учёного совета Музея Внеземных культур , доктор ксенопсихологии, доктор социотопологии, действительный член Академии социологии (Европа), член-корреспондент Лабораториума (Академии наук) Великой Тагоры, магистр реализаций абстракций Парсиваля и т.д. Айзек Бромберг ошибался. На самом деле человечество создаст разум, который форсированно и навсегда обгонит человечество.

Но самое интересное состоит в том, что автор сам пытается написать собственный меморандум Бромберга. Помните? «Не могу не заметить только, что модели "Спрут" и "Конкистадор" вызвали у меня приступ неудержимого хохота своей анекдотической примитивностью, а модель "Новый воздух" хотя и производит впечатление конструкции не вполне тривиальной, начисто лишена сколько-нибудь серьезной аргументации. Восемь моделей! Восемнадцать разработчиков, среди которых блистают такие звезды, как Карибанов, Ясуда, Микич! Черт побери, можно было ожидать чего-нибудь позначительнее!»
Макс Тэгмарк создал целый перечень сценариев технологической сингулярности, который претендует на то, чтобы описать все возможные варианты ожидающего нас будущего.

Сценарии технологической сингулярности у Макса Тэгмарка выглядят так:
1. Либеральная утопия — люди, киборги и любые разновидности суперразума мирно сосуществуют благодаря четко прописанному в законах имущественному праву.
2. Великодушный диктатор — люди знают, что обществом управляет искусственный интеллект, но их это устраивает.
3. Утопия всеобщего равенства — люди, киборги и суперразум мирно сосуществуют благодаря отсутствию частной собственности и гарантированным выплатам.
4. Привратник — этот сверхразум создавался с целью предотвращения создания другого сверхразума. В этом сценарии существуют роботы и различные формы искусственного интеллекта, которые помогают человеку, но технологический прогресс остановился.
5. Бог-защитник — всевластный разум, который следит, чтобы люди были счастливы, и незаметно им помогает, когда это действительно необходимо. Большинство людей даже не подозревают о его существовании.
6. Порабощенный бог — искусственный интеллект, полностью подвластный людям, которые заставляют его работать на себя, создавать новые блага и технологии. Эти люди могут использовать искусственный интеллект во зло и во благо других людей.
7. Победитель — искусственный интеллект решает, что люди не нужны, опасны или бесполезны. Такой суперразум быстро избавится от нас каким-нибудь изощренным методом.
8. Наследник — искусственный интеллект заменит людей, но мы не будем против — мы будем воспринимать его как своего преемника. Это ребенок, который умнее и лучше родителей, но родители им гордятся, даже если не могут быть свидетелями его невероятных достижений.
9. Директор зоопарка — всесильный разум, который оставляет в живых некоторое количество людей, покорных повелителю.
10. 1984 — все, как в романе Оруэлла: технологический прогресс остановлен навсегда, сверхразум не создан, потому что в полицейском государстве, управляемом людьми, исследования в области искусственного интеллекта полностью запрещены.
11. Возвращение — искусственная остановка технологического процесса и возвращение в дотехнологическую эпоху.
12. Саморазрушение — сверхразум так и не появился, потому что его некому было создавать — люди вымерли вследствие ядерной или биотехнологической катастрофы.

Интересует мнение коллективного разума – какой сценарий вам кажется наиболее убедительным?
Можно голосовать за несколько вариантов

Какой (или какие) сценарии вам кажутся наиболее убедительными?

Либеральная утопия
48(8.4%)
Великодушный диктатор
67(11.8%)
Утопия всеобщего равенства
24(4.2%)
Привратник
16(2.8%)
Бог-защитник
31(5.4%)
Порабощенный Бог
92(16.2%)
Победитель
37(6.5%)
Наследник
80(14.1%)
Директор зоопарка
24(4.2%)
1984
44(7.7%)
Возвращение
14(2.5%)
Саморазрушение
92(16.2%)


Или предложите свой собственный сценарий

Для читателей блога Smartreading.ru представляет бесплатный доступ к саммари книги Макса Тэгмарка «Жизнь 3.0»
Ссылка будет действовать три дня

Tags: будущее, книги, опросы, реклама
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 134 comments
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →