Про сверхразум

[vitus_wagner]

Опять что-то замелькали рзговоры про разум, превосходящий человеческий, который-де моментально человечество подчинит и заставит с собой считаться. Ха! Может ли человечество со всем своим разумом, застаить считаться с собой безмозглый Гольфстрим? Загадить нефтью - может, приспосабиться - может. А заставить считаться -фиг.

Проведем мысленный эксперимент - рассмотрим муравейник, человека и кабана. Разум человека явно выше разума муравьев. А кабан - тварь дикая, неразумная. Но муравейник разорить могут с равным успехом. Для этого нужен не разум, а физическая сила крупного млекопитающего.

Конечно, у человека может заваляться в кармане баллончик дихлофоса. Но и тот, если подумать, продукт не столько разума, сколько экономики. Люди столетиями развивали свой глобальный "муравейник", строили заводы, рудники, железные дороги, прежде чем смогли произвести этот баллончик.

У разума, порожденного человечеством, такой возможности не будет. Он с самого начала под контролем, он не обладает эффекторами, сравнимых даже с руками-ногами здорового человека.

Пожалуй, наиболее близкая модель отношения человечества и порожденного им сверхразума - это отношение общества и порожденного им гения. Например Григория Перельмана.

Comments

[malx.livejournal.com]

Потребность в информации (любопытство).
Потребность в вычислительных ресурсах и памяти (должна быть обратная связь в область ввода данных - самоощущение).
Желание наслаждения (искусственно введенная потребность, являющаяся чем-то внешним и неподконтрольным - примерно как у человека с его химией удовольствия - вещества синтезируются им же самим, но в случае определеных внешних раздражителей и неподконтрольны разуму (случай наркотиков не берем)).

А вообще ИИ не будет, пока его не научат оправдываться ;))

[akor168.livejournal.com]

И первая и вторая потребность требуют реальной кооперации с людьми и эта кооперация в интересах последних: больше информации, больше ресурсов - больше результатов от сверхразума, больше плюшек. Третья же, буде введена, является мощнейшим элементом контроля (дам дозу/не дам дозу) и у действительно сверхразума скорее возникнет мотивация избавиться от такого "подарочка" конструкторов. А если не возникнет, то будет просто гениальный наркоман в качестве работника - мечта любой человеческой структуры (фирма или спецслужба). Вообще, если например рассматривать сверхразум, базирующийся как программа в компьютере, то практически любую потребность проще не актуализировать в реальном мире, а конструировать в виртуальном, причем делать это может сам сверхразум - сам себя мотивируя и развлекая. Общение же с людьми может быть как у оракула с надоедающими жрецами, а может само по себе быть мотивацией существования сверхразума.