Тут, как говорится, или трусы надеть, или крестик снять. Либо _сверх_разум, либо "он с самого начала под контролем". Во втором случае мы имеем какую-то разновидность narrow AI, с которыми возможны, конечно, проблемы, но другого рода (страж-птица, ага). Если мы говорим о сверхразуме, то предполагаем как минимум человеческий уровень свободы и разнообразия в механизмах мотивации и принятия решений, а приставка "сверх" как-бы намекает нам, что по крайней мере часть характеристик разума превосходит человеческие - быстродействие, например, или объем информации, которой он может оперировать, или еще что-то.
В сравнении способностей человека и кабана по части разорения муравейника смешаны в кучу два разных параметра - интеллект и энерговооруженность. Энерговооруженность, конечно, параметр важный, но неинтересный. Астероид с достаточной кинетической энергией может, не обладая даже интеллектом инфузории, прикончить и людей, и кабанов, и муравьев, и гольфстрим нафиг развернуть в обратную сторону, и что? Интеллект, с другой стороны, может частично компенсировать более слабую энергетику, с другой - помочь ее нарастить (человек, вообще-то, оперирует энергиями на порядки большими, чем физическая сила крупного млекопитающего).
Правильная постановка вопроса о "борьбе разумов" - кто выиграет в случае конфликта интересов? Скажем, человек, кабан и муравьи конкурируют за один ресурс - я бы не поставил в этой игре на кабана или муравья. Разумеется, человек рассматривается в комплекте со всей своей человеческой цивилизацией, ибо человеческий разум это социальное явление, рассматривать его в отрыве от общества бессмысленно - другими словами, либо за конкретной человеческой особью стоит цивилизация, либо эта особь не намного разумнее кабана.
Ну и наконец, хотя с этого надо было начать - у вас явно просматривается представление о гипотетическом сверхинтеллекте как о чем-то, создаваемом целенаправленно в лабораторных условиях в единственном экземпляре на изолированном компьютере. Это очень старый концепт, пожалуй, еще из докиберпанковской НФ. И очень маловероятный сценарий появления не/пост/сверхчеловеческого разума. С тех пор утекло много воды и придумано много более других сценариев - и самозарождение его в компьютерных сетях, и коллективные интеллекты, и расширение ресурсов мозга внешними имплантами, и аплоадинг... Наиболее вероятный сценарий глядя из сейчас - зарождение во многих местах множества разных (в значении как "разных типов", так и "разных экземпляров") разумов, все более отличающихся от человеческого и все более его превосходящих.
(тут было еще многобуков, но в формат камента оно нэ лизэ... может, позже у себя отдельным постом положу)
![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png)
branchandroot
no subject
Date: 2010-07-20 01:47 pm (UTC)В сравнении способностей человека и кабана по части разорения муравейника смешаны в кучу два разных параметра - интеллект и энерговооруженность. Энерговооруженность, конечно, параметр важный, но неинтересный. Астероид с достаточной кинетической энергией может, не обладая даже интеллектом инфузории, прикончить и людей, и кабанов, и муравьев, и гольфстрим нафиг развернуть в обратную сторону, и что? Интеллект, с другой стороны, может частично компенсировать более слабую энергетику, с другой - помочь ее нарастить (человек, вообще-то, оперирует энергиями на порядки большими, чем физическая сила крупного млекопитающего).
Правильная постановка вопроса о "борьбе разумов" - кто выиграет в случае конфликта интересов? Скажем, человек, кабан и муравьи конкурируют за один ресурс - я бы не поставил в этой игре на кабана или муравья. Разумеется, человек рассматривается в комплекте со всей своей человеческой цивилизацией, ибо человеческий разум это социальное явление, рассматривать его в отрыве от общества бессмысленно - другими словами, либо за конкретной человеческой особью стоит цивилизация, либо эта особь не намного разумнее кабана.
Ну и наконец, хотя с этого надо было начать - у вас явно просматривается представление о гипотетическом сверхинтеллекте как о чем-то, создаваемом целенаправленно в лабораторных условиях в единственном экземпляре на изолированном компьютере. Это очень старый концепт, пожалуй, еще из докиберпанковской НФ. И очень маловероятный сценарий появления не/пост/сверхчеловеческого разума. С тех пор утекло много воды и придумано много более других сценариев - и самозарождение его в компьютерных сетях, и коллективные интеллекты, и расширение ресурсов мозга внешними имплантами, и аплоадинг... Наиболее вероятный сценарий глядя из сейчас - зарождение во многих местах множества разных (в значении как "разных типов", так и "разных экземпляров") разумов, все более отличающихся от человеческого и все более его превосходящих.
(тут было еще многобуков, но в формат камента оно нэ лизэ... может, позже у себя отдельным постом положу)