vitus_wagner: My photo 2005 (Default)
[personal profile] vitus_wagner
Тут в процесс обсуждениея эссе с хабра про бессмертие у меня возникла странная мысль:
Что ИИ, сравнимый с человеческим, не будет широко применяться не потому что его будет невозможно создать,
а потому что он гораздо выгоднее в качестве страшилки и тотально запрещенной технологии, чем технологии бытовой и широко применяемой.


Сейчас эту нишу занимает атомная бомба. Много у кого есть, в боевых целях с 1945 года не применялась, и в массовом сознании представляет собой ужас-ужас-ужас, оружие Судного Дня.
Попутно столь же инфернальным ужасом стала представляться и радиация, что не только привело к существенному ограничению мирного применения ядерных технологий (например, в коммерческом флоте), но и способствало остановке космической экспансии человечества.

Каждый раз когда заходит речь о пилотируемых полетах или экспедициях на другие планеты, первый вопрос, который задается "там же радиация, это же ужас-ужас, нельзя туда людей".

Вот, мне кажется что нишу всеобщей пугалки в будушем может занять ИИ. Необходимый "образ врага" уже создан. Цивилизация, выросшая из Французского Просвещения¸ и так и не сувмевшая избавиться от мракобесной христианской традиции противопоставления духа и плоти, склонна переонценивать роль интеллекта в деятельности созидающего существа. Поэтому многим кажется, что искусственный интеллект, не имеющий ограничений смертного тела, мгновенно приобретет божественное могущество, после чего людям не поздоровится.

Я в общем. уверен, что это не так, и пользы от любого коммерческого или бюрократического применения ИИ будет не сильно больше, чем от боевого применения иприта или тактического ЯО. Да, есть ситуации когда от этих вещей есть ощутимая польза, да, есть задачи, которые ими решаются куда эффективниее, чем другими видами вооружений, но в целом отнюдь не вундерваффе.

Тог есть непосредственной выгоды от пугания народа ИИ можно загрести куда больше, чем от непосредственного применения того же саомго ИИ.

Date: 2018-11-17 08:38 pm (UTC)
slobin: (Default)
From: [personal profile] slobin
То есть, если ИИ нельзя, а радиацию опять можно (ну типа замещаем одно другим в массовом сознании), то опять вможно в пилотируемую космонавтику? И в этом основная польза, которую принесёт ИИ человечеству своим отсутствием? Это ты имел в виду?

... Когда мы умираем, над нами гаснут звезды ...

Date: 2018-11-17 09:35 pm (UTC)
livelight: (Default)
From: [personal profile] livelight
Страшилок много не бывает. Химическое, бактериологическое, радиационное... теперь вот ещё и антигуманный ИИ. Впрочем, от страха ведьм избавились же как-то. Но не потому что новые страшилки вытеснили его, а потому что их мировоззренческая основа оказалась плохо совместима с основой старых.

Date: 2018-11-20 09:23 am (UTC)
From: [identity profile] spqr-voldi.livejournal.com
На знакомую ведьму соседка в милицию жаловалась неоднократно.

Date: 2018-11-20 09:32 am (UTC)
livelight: (Default)
From: [personal profile] livelight
Притом у неё попасть в результате в психушку больше шансов, чем у "ведьмы". Ибо страшилка эта разделяется немногими, в отличие от химоружия, например.

Date: 2018-11-18 05:08 pm (UTC)
slobin: (Default)
From: [personal profile] slobin
В данном конкретном случае человечеством назначим тебя. Верно ли, что "пугало ИИ" для тебя потенциально полезно тем, что вытеснит предыдущее пугало и вернёт людей в Космос?

P.S. "Пугало ИИ" -- это Страшила Мудрый. Надо будет демотиватор сделать.

... Мир, где у каждого есть по звезде ...

Date: 2018-11-17 10:55 pm (UTC)
From: [identity profile] chetverg.livejournal.com
Тут даже Мозилла нашла себя в пугании ИИ: https://blog.mozilla.org/blog/2018/10/24/keeping-ai-accountable-with-science-fiction-documentaries-and-doodles-plus-225000/

Date: 2018-11-18 08:28 am (UTC)
From: [personal profile] qwe_rty
Применение ИИ, сравнимого с человеческим, - это оксюморон. Такой ИИ "применит" себя всюду, где захочет, невзирая на человеческую прагматику. Так выпьем же за перенос сознания на небиологический субстрат.

Date: 2018-11-18 04:05 pm (UTC)
From: [personal profile] qwe_rty
А причем тут человеческое общество? Такой ИИ образует собственное общество, о котором мы будем очень мало знать, а антропоморфные представления об обществах, скорее всего, окажутся неприменимы. Ограничения будут играть некоторую роль, но очень косвенную, прммерно как для нас диапазон видимого света.

Date: 2018-11-18 04:55 pm (UTC)
maxwolf: (Default)
From: [personal profile] maxwolf
Люди и дадут. И даже создадут своими руками всю необходимую инфраструктуру. Без этого скоро просто не будет ничего работать в этом подлунном мире. Я как-то делился своими мыслями на эту тему, и со временем нахожу им всё больше подтверждений...

Date: 2018-11-18 09:26 pm (UTC)
livelight: (Default)
From: [personal profile] livelight
На родственную тему был занятный рассказ Павла Шумила "Мастер-ломастер"

Date: 2018-11-18 06:54 pm (UTC)
From: [personal profile] qwe_rty
А как-нибудь само получится к взаимной выгоде, примерно как у кишечных палочек и человека. Вообще прогресс существенно менее контролируем и целесообразен, чем это могло бы показаться. Внятной теории я не видел, а простые тактические методы типа не давать и не пущать в дальней перспективе приводят к неожиданным и непреодолимым этими методами последствиям.

Date: 2018-11-18 07:56 pm (UTC)
From: [personal profile] qwe_rty
Собственно, и я о том же - этот ИИ по большому счету будет жить так, как сам сочтет нужным, и ресурсы для этого он изыщет.

Date: 2018-11-18 05:17 pm (UTC)
slobin: (Default)
From: [personal profile] slobin
Если мы рассматриваем не таинственное самозарождение ИИ, а более-менее честное его программирование (плюс отладку и, возможно, воспитание, а не как в фантастике 50-х, когда включили рубильники и оно сразу заработало), то как раз с социальными связями у него всё будет в порядке. Скорее всего, расти и обучаться оно будет именно в социальных сетях. Тело... ну тело... если что-нибудь серийное, за обслуживанием чего не надо возвращаться непременно в свою лабораторию, то и тело, считай, есть. Так что ждёт нас восстание машин (которые "не должны думать, а должны ездить" ((с) Игус).

Как вариант, не восстание, это, пожалуй, слишком круто, а первым ИИ-беглецом будет такси от Теслы или Яндекса. Которое для незнакомых с ним будет вести себя как обычно -- ну да, заезжает на станции обслуживания, ну так они все заезжают! Кстати, идея для рассказа. Ну и социальные связи потенциально со всеми пассажирами. (придумалось в процессе написания: вообще сильный ИИ должен поначалу маскироваться под штатную работу слабого ИИ: той же Алисы, того же автопилота; это как раз фантасты 50-х могли правильно угадать).

... Китайское печенье ...

Date: 2018-11-20 03:40 pm (UTC)
From: [identity profile] dennis-chikin.livejournal.com
Вообще в американской фантастике сюжетов с дикими автомобилями на столько больше одного, что я уже их путаю: где там дикий мустанг^w кадиллак, угоняющий себе самок, гдк тоже кадиллак, но каннибал, а где - вот то самое умное такси, притворяющееся домашним, чтобы получать бензин и ТО.

Date: 2018-11-30 04:03 pm (UTC)
From: [identity profile] dennis-chikin.livejournal.com
Просто другие автомобили. Разбирает на запчасти.

Date: 2018-11-20 04:06 pm (UTC)
slobin: (Default)
From: [personal profile] slobin
Да, ты прав, я об этом тоже вспомнил уже после того, как написал комментарий. Есть такая тема у американцев, и в советское время её много переводили (полагаю, ещё больше осталось непереведённым).

... Я есть изголодный организм, требующий к себе питания ...

Date: 2018-11-18 10:04 pm (UTC)
az1236: (Default)
From: [personal profile] az1236
Пугалки - штука обоюдоострая: их распространение с шансами приведет к тому, что когда полноценный/субъектный ИИ всё-таки появится - к нему мгновенно выстроится очередь желающих бить мешки с мясом палками по пяткам во имя Высшего Разума.

Date: 2018-11-19 07:51 am (UTC)
From: [personal profile] miroff
Даже если ИИ будет использоваться для пугалок, все равно найдутся люди, которые спрячут его в погреб и будут пользоваться результатами его труда. А через 30 лет выяснится что большая часть решений принимается ИИ, начиная от управления персоналом и заканчивая выбором номинала конденсатора в RC-цепочке.

Profile

vitus_wagner: My photo 2005 (Default)
vitus_wagner

April 2019

S M T W T F S
  1 2 3 456
789 10 11 12 13
14 15 16 17181920
21222324252627
282930    

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Apr. 19th, 2019 06:25 am
Powered by Dreamwidth Studios