Про сверхразум
Jul. 20th, 2010 10:56 am![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
vitus_wagnerОпять что-то замелькали рзговоры про разум, превосходящий человеческий, который-де моментально человечество подчинит и заставит с собой считаться. Ха! Может ли человечество со всем своим разумом, застаить считаться с собой безмозглый Гольфстрим? Загадить нефтью - может, приспосабиться - может. А заставить считаться -фиг.
Проведем мысленный эксперимент - рассмотрим муравейник, человека и кабана. Разум человека явно выше разума муравьев. А кабан - тварь дикая, неразумная. Но муравейник разорить могут с равным успехом. Для этого нужен не разум, а физическая сила крупного млекопитающего.
Конечно, у человека может заваляться в кармане баллончик дихлофоса. Но и тот, если подумать, продукт не столько разума, сколько экономики. Люди столетиями развивали свой глобальный "муравейник", строили заводы, рудники, железные дороги, прежде чем смогли произвести этот баллончик.
У разума, порожденного человечеством, такой возможности не будет. Он с самого начала под контролем, он не обладает эффекторами, сравнимых даже с руками-ногами здорового человека.
Пожалуй, наиболее близкая модель отношения человечества и порожденного им сверхразума - это отношение общества и порожденного им гения. Например Григория Перельмана.
Проведем мысленный эксперимент - рассмотрим муравейник, человека и кабана. Разум человека явно выше разума муравьев. А кабан - тварь дикая, неразумная. Но муравейник разорить могут с равным успехом. Для этого нужен не разум, а физическая сила крупного млекопитающего.
Конечно, у человека может заваляться в кармане баллончик дихлофоса. Но и тот, если подумать, продукт не столько разума, сколько экономики. Люди столетиями развивали свой глобальный "муравейник", строили заводы, рудники, железные дороги, прежде чем смогли произвести этот баллончик.
У разума, порожденного человечеством, такой возможности не будет. Он с самого начала под контролем, он не обладает эффекторами, сравнимых даже с руками-ногами здорового человека.
Пожалуй, наиболее близкая модель отношения человечества и порожденного им сверхразума - это отношение общества и порожденного им гения. Например Григория Перельмана.
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2010-07-20 07:33 am (UTC)no subject
Date: 2010-07-20 07:35 am (UTC)/усмехаясь/
Date: 2010-07-20 07:44 am (UTC)no subject
Date: 2010-07-20 07:45 am (UTC)А с Перельманом точно сверхразум возьмет и пошлет , мол, ну, неинтересны вы все мне...
no subject
Date: 2010-07-20 07:48 am (UTC)Если муравьев не устраивает что делает человек, они могут доставить человеку неприятности, но попять же дорогой для себя ценой.
Конечно, человечество и сверхразум смогут сосуществовать некоторое время. Может даже большое. Пока конфликта интересов не будет.
Перельман не годный пример. У него нет ни социального сверхинтелекта, ни больших амбиций. Только честность (даже излишняя) и математическая гениальность. Очень далеко от того, что можно назвать "сверх-".
no subject
Date: 2010-07-20 07:55 am (UTC)Каковая экономика сама по себе есть продукт разума. С другой стороны, той же ломехузе чтобы подчинить муравейник без надобности и разум человека и физическая сила кабана.
> Он с самого начала под контролем,
истинно говорю вам - сверхразум разовьётся из спамерских бот-сетей
> он не обладает эффекторами, сравнимых даже с руками-ногами здорового человека.
Чтобы управлять нужны не руки-ноги, а средства коммуникации. Каковые нынче находятся в крайне доступном состоянии.
no subject
Date: 2010-07-20 07:56 am (UTC)Фараоновы муравьи думают иначе.
no subject
Date: 2010-07-20 07:57 am (UTC)no subject
Date: 2010-07-20 08:16 am (UTC)А математическая гениальность - продукт образования и стихийно сложившихся условий. У Перельмана было отличное математическое образование, а жизнь сложилась так, что внешних раздражителей было мало, что позволило человеку углубиться в решение математических задач.
перельман мог бы захватить мир
Date: 2010-07-20 08:18 am (UTC)Был у Азимова рассказ как Всемирный Мультивак запланировал себя убить. Такую косвенную интригу провернул! Правда, в первый раз его поймали на мелочи.
no subject
Date: 2010-07-20 08:18 am (UTC)no subject
Date: 2010-07-20 08:19 am (UTC)>из спамерских бот-сетей
Хорошая идея для фантастического рассказа. Хотя впрочем... было уже (http://oldsf.ru/mastera-zarubezhnoi-fantastiki/gerbert-vfranke/poslednii-programmist.html).
no subject
Date: 2010-07-20 08:19 am (UTC)Re: /усмехаясь/
Date: 2010-07-20 08:28 am (UTC)Re: /усмехаясь/
Date: 2010-07-20 08:29 am (UTC)no subject
Date: 2010-07-20 08:36 am (UTC)ибо гольфстрим нельзя водить за нос, а людей - запросто.
у Герберта Франке было на эту тему кстати.
no subject
Date: 2010-07-20 08:44 am (UTC)На самом деле, если даже учёные совершенно сознательно будут пытаться научить искин целеполаганию (что само по себе было бы идиотизмом) - я не вижу, каким образом это у них могло бы получиться.
no subject
Date: 2010-07-20 08:46 am (UTC)Скорее, из целого объединения зомби-сетей, торговых роботов, P2P кредитных систем (когда они появятся, если появятся), интернет-банков и онлайн аукционов.
Зомби-сети будут обеспечивать пространство для жизни торговых роботов, кредитные системы обеспечивать прокачку и учёт RL-ресурсов, а онлайн-аукционы - обеспечивать найм людей-"эффекторов" за RL-ресурсы (естественно, для задач, с которыми дроны-машины, непосредственно подключенные к сети, не смогут сами справляться).
Собственно, и "подчинение человечества" сверхразумом будет похоже не на разорение муравейника извне, а, например, на механизм, с помощью которого сам муравейник защищается от неблагоприятных обстоятельств (например, смерти матки, если я не путаю с другими соц. насекомыми) так, что одни виды муравьёв начинают выполнять другие функции (кто-то _один_ перерождается в матку), либо, вообще, весь муравейник мигрирует с места на место. Либо, например, сверхразум будет похож на механизм, с помощью которого живые организмы избавляются от составляющих их омертвевших клеток.
no subject
Date: 2010-07-20 08:56 am (UTC)Re: /усмехаясь/
Date: 2010-07-20 09:01 am (UTC)no subject
Date: 2010-07-20 09:03 am (UTC)Так что я не вижу почему это может не получиться, при условии что сверхразум вообще получился.
Варианты создания сверхразума - проапдейтить свой мозг, создать искусственный мозг (биологический или электронный) и воспитать его как ребенка - запросто приводят к амбициозности.
Вариант "конструирование с нуля", IMHO нереализуем, поскольку разум должен сконструировать что-то его превосходящее. Такое возможно, но случается редко.
no subject
Date: 2010-07-20 09:03 am (UTC)почти согласился :)
Date: 2010-07-20 09:17 am (UTC)прелесть идеи сверхразума в том, что нет никакого способа точно ответить на вопрос, не управляется ли человечество неким разумом, преследующим собственные интересы уже.
/ухмыляясь/
Date: 2010-07-20 09:23 am (UTC)Джон Варли. Нажмите "ВВОД", Зиновьев, 'черный яша'.
no subject
Date: 2010-07-20 10:16 am (UTC)