Про сверхразум

[vitus_wagner]

Опять что-то замелькали рзговоры про разум, превосходящий человеческий, который-де моментально человечество подчинит и заставит с собой считаться. Ха! Может ли человечество со всем своим разумом, застаить считаться с собой безмозглый Гольфстрим? Загадить нефтью - может, приспосабиться - может. А заставить считаться -фиг.

Проведем мысленный эксперимент - рассмотрим муравейник, человека и кабана. Разум человека явно выше разума муравьев. А кабан - тварь дикая, неразумная. Но муравейник разорить могут с равным успехом. Для этого нужен не разум, а физическая сила крупного млекопитающего.

Конечно, у человека может заваляться в кармане баллончик дихлофоса. Но и тот, если подумать, продукт не столько разума, сколько экономики. Люди столетиями развивали свой глобальный "муравейник", строили заводы, рудники, железные дороги, прежде чем смогли произвести этот баллончик.

У разума, порожденного человечеством, такой возможности не будет. Он с самого начала под контролем, он не обладает эффекторами, сравнимых даже с руками-ногами здорового человека.

Пожалуй, наиболее близкая модель отношения человечества и порожденного им сверхразума - это отношение общества и порожденного им гения. Например Григория Перельмана.

Comments

[themalcolm.livejournal.com]

И? Каким образом создатели ему свою амбициозность передадут?
На самом деле, если даже учёные совершенно сознательно будут пытаться научить искин целеполаганию (что само по себе было бы идиотизмом) - я не вижу, каким образом это у них могло бы получиться.

[potan.livejournal.com]

Единственный известный разум способен к амбициозности. И, в среднем, наиболее успешные инстансы чаще имеют эту склонность.
Так что я не вижу почему это может не получиться, при условии что сверхразум вообще получился.

Варианты создания сверхразума - проапдейтить свой мозг, создать искусственный мозг (биологический или электронный) и воспитать его как ребенка - запросто приводят к амбициозности.

Вариант "конструирование с нуля", IMHO нереализуем, поскольку разум должен сконструировать что-то его превосходящее. Такое возможно, но случается редко.

[themalcolm.livejournal.com]

IMHO, Вы смешиваете разум с личностью. Амбициозность - свойство личности. Личность, в свою очередь - свойство живого. О создании же искусственного, но при этом живого мозга откровенно прждевременно говорить в условиях, когда наука неспособна создать (не модифицировать, а именно создать) даже бактерии.

Проапгрейдить свой мозг - относительно правдоподобная, на фоне всего остального, возможность; но она, очевидно, приведёт к несколько другой проблеме,чем обсуждаемая: не единичного сверхразума, а расы сверхлюдей.

Под сверхразумом же в 99% случаев понимают нечто электронное, компьютер или сеть - по обсуждению это видно. В этом толковании, у него не может быть ни целеполагания, ни потребностей.