Про ИИ

[vitus_wagner]

Тут мне вчера stranger_p_a задал вопрос, что я думаю про перспективы искусственного интеллекта.

А тут как раз день программиста, поэтому отвечу-ка я отдельным постом.

1. Я не верю, что ИИ возникнет просто от увеличения числа транзисторов на кристалле. Точно так же, как мыши не заводятся из грязных носок, интеллект не заводится из вычислительной мощности. Интеллект заводится из взаимодействия с окружающей средой.

2. Я уже неоднократно писал про то, что последние несколько десятилетий компьютеры, виртуальный мир сети, старательно изолируют от физического мира. Хотя сейчас пошли некоторые подвижки в этом плане - распространение видеокамер и кинестов, computer vision, пылесосы "румба" и всякие Lego Mindstorms и Arduino, позволяющие создавать хотя бы игрушечные эффекторы. Так что пока что у первых возникающих искусственных интеллектов окружающей средой является Сеть. И наиболее распространенным вариантом являются спамботы, ЖЖ-шные боты-комментаторы и прочие вредоносные твари.

3. Поэтому основное изменение путей прогресса в случае появления ИИ, обладающего "физическим телом" (в виде, скорее всего военных беспилотников и мобильных наземных роботов) будет то, что людям придется помимо разнообразных прочих внешних врагов придумывать технологии для борьбы с самими же созданными врагами. (именно таким врагом в мире "Детей Пространства" являются шияары).

4. Как известно, ИИ - это общее название для тех областей исследования в Computer Science, на которые нельзя выбить более целевое финансирование. Как только какая-то технология (OCR, Computer Vision, синтез/распознавание речи) дорастает до уровня коммерческого применения, все забывают про то, что когда-то это называлось ИИ и придумывают новое название. Про это мне еще в прошлом тысячелетии рассказывал slobin.

Comments

[dzz]

Витус, ты же сам ратуешь за приоритет человека перед автоматами в решении нестандартных задач ;)

В последние десятилетия в автоматизации возобладал человеко-машинный подход, в котором любая более-менее сложная система работает в паре с человеком и повышается эффективность работы именно этой пары. Не в последнюю очередь - из-за идеологического облома с ИИ в конце 80-х, когда стало ясно, что ни нейросети, ни экспертные системы к появлению мышления в нашем понимании не приводят.

Некоторые надежды можно связывать с "интеллектуализацией" систем построения дополненной реальности, которые уж точно будут взаимодействовать и с реальным миром, и с сетью, и с человеком. Но тут состояние пока зачаточное.

[vitus_wagner]

У нас сейчас проблема с искусственным интеллектом для решения стандартных задач - улицу там подметать, траву косить, картошку копать.

А идеологический облом с ИИ в конце 80-х был во многом из-за того, что мы тогда слишком мало знали про интеллект естественный. За последние 20 лет и нейрофизиология сильно продвинулась, и вычислительные мощности возросли на несколько порядков.

[astarsan.livejournal.com]

Для этих задач нужен искуственный инстинкт а не интеллект.
Про это еше Лем писал.
Да и вот пример i-robot Roomba который очень неплохо справляется с очисткой таких углов в квартире куда с обычным пылесосом и не подберешься (и обычно проходит всю квартиру несмотря на очень нетривиальный layout и кучу мебели по пути).

Эти задачи при условии наличия платежеспособнонго спрос - уже бы решили.

Для 3х вышеприведенных вами задач проблема не в ИИ а в отсутствии дешевых (это тут ключевое слово) технологий роботов которые бы нормально работали в Outdoor/полевых условиях.
Там где цена не критична (у военных) - подобная техника весьма вероятно появится в обиходе в ближайшие 5-10 лет.

Я кстати не уверен что нельзя получить рабочий ИИ без взаимодействия с физическим миром (правила работы физической реальности они конечно обширны но конечны, и при определенной настойчивости, формализуемы).

PS: а касательно траву косить я бы попробовал скрестить газонокосилку с чем либо типа iRobot Create® Programmable Robot (я не вижу чем задача покосить участок принципиально отличается от задачи пропылесосить квартиру).

[vitus_wagner]

Есть разные задачи на покосить. Роботы пока умеют решать только простейшие. Задача "покосить лужок с целью запасти сена" и задача "подстричь газон, чтобы красиво было" - это разные задачи.

А принципиальное отличие косилки от пылесоса в том, что косилка - это весьма разрушительный девайс. Она может причинить опасные травмы случайно попавшимся на её пути живым существам, она может скосить то, что скашивать совершенно не нужно (клумбы, посевы).

[dzz]

На основе современных технологий можно сделать полностью автоматическую газонокосилку даже с системой "свой-чужой" и учётом изменений рельефа. Просто стоимость такого проекта на этапе разработки будет весьма велика, а специфический спрос вряд ли позволит снизить цену до уровня "румбы". И с официальной сертификацией безопасности наверняка вылезет масса проблем.

А некоммерческие разработки похожей сложности есть, всяческие роботфесты тому наглядное доказательство.

[astarsan.livejournal.com]

Пылесос менее разрушительный конечно но вот известные destructive modes у i-roomba от которых там стоит защита:

1)падение с лестницы (ультразвуковой сонар помоему в качестве защиты)
2)врезаться в стоящую китайскую вазу и опрокинуть ее (тоже сонар и замедление почти до 0 скорости при приближеннии к любым твердым обьектам)
3)намотать на щетку электропровод и выдернуть его из розетки (както он он сам догадывается что надо включить реверс у щетки если что то на нее намоталось... обычно помогает)

PS: найми городского жителя покосить траву (и пусть он хоть академик наук) если он на даче не был ни разу в жизни то весьма вероятно что
"может скосить то, что скашивать совершенно не нужно (клумбы, посевы)."
Это не связано с уровнем интеллекта а с наличием некоей модели окружающего мира которую можно выработать на практике а можно заложить с точностью достаточной для 99% случаев в программу.

Я согласен с тем что модель окружающего мира - серьезная составная часть интeллекта, но не согласен с тем что нельзя заложить модель достаточно подробную для работы ИИ вне физического мира.

[vitus_wagner]

Интеллект нужен для того, чтобы понять постановку задачи, даваемую человеком. Румбе проще - она убирает всё внутри стен.

[dzz]

> нейрофизиология сильно продвинулась, и вычислительные мощности возросли на несколько порядков

Но осадочек у целого поколения computer scientist-ов остался... ;)

Сейчас, кстати, вопрос о моделировании мозга на схожих с натуральным принципах уже особо не ставится - при всём прогрессе микроэлектроники от сложности клеточной организации ЦНС мы отстаём на порядки. Но опыт имитации отдельных видов человеческой деятельности накопился солидный - в той же обработке фотографий.

[vitus_wagner]

Вообще говоря, моделировать клеточные процессы (и даже нейросети) - это лишнее. Но без понимания того, как они работают, вряд ли получится создать ИИ, способный к внятному взаимодействию с человеком.

Основное что требуется от ИИ - это понимание невнятно сформулированных заданий от человека, и при необходимости запрос уточнений.

[dzz]

> Как только какая-то технология (OCR, Computer Vision, синтез/распознавание речи)
> дорастает до уровня коммерческого применения, все забывают про то, что когда-то
> это называлось ИИ и придумывают новое название

Дык, в любой фундаментально-научной области происходит то же самое. Производители микросхем никогда не упоминают о тесной связи своих коммерческих продуктов с физикой твёрдого тела.

[stiv_sigmal]

Летом читал об опытах гугла по нейронным сетям. Мол, сеть из 16 тыс процессоров после миллиона картинок, надёрганных с ютуба, самостоятельно научилась распознавать кошек.

[dzz]

В Беркли, кстати, группа Дж. Малика подобными опытами занимается уже не первый год - уверенно распознают в надёрганных из интернета случайных картинках лица, животных и велосипеды, ошибка порядка 1 процента. Причём, нейросеть тут лишь один из подходов, дающий не самый лучший результат.

[toman_k]

> Причём, нейросеть тут лишь один из подходов, дающий не самый лучший результат.

Если заниматься программной эмуляцией оных сетей, то оно и естественно, что не лучший, когда есть другие, более удобные для компа способы обсчёта информации заранее известного вида. Но вот что там будет, если смотреть не по самим результатам на ограниченных задачах по распознаванию образов, а по перспективам, скажем, формулирования новых понятий и оперирования какими-то видами информации, которые заранее не предусматривались - вот это интереснее с точки зрения ИИ.

[dzz]

Способ реализации нейросети тут ни причём, речь шла о точности распознавания. Нейросеть нужно учить, это отдельное искусство :)

Класификаторы, основанные на других принципах (тот же random forest), часто дают лучшую селективность на обучающих выборках того же размера.

Перспективы нейросетей в качестве универсального инструмента ИИ крайне преувеличены. Они хорошо решают некоторые классы задач, но не более того. Просто есть в них некая таинственность (коэффициенты вместо алгоритмов и непрозрачность принципов принятия решений :)

[greenkrokodilla]

Поэтому основное изменение путей прогресса в случае появления ИИ, обладающего "физическим телом" (в виде, скорее всего военных беспилотников и мобильных наземных роботов) будет то, что...

Хмм.. и возможно, что первым "телом" будет "рой" робо-зверей или робо-птиц, насекомоподобно исполняющих сложные ("интеллектуальные") задачи с помощью кучи более простых аппаратов.

Военные в США и Израиле сильно этим занимаются; сегодня в США дают достаточно на это денег, а потому университеты и лаборатории радуют нас своими достижениями.

Понятно, что для поддержания внешнего облика науки и для популяризации (и как следствие, получения б'ольших денег на разработку, ученые в США весьма чувствительны к Пи-Ару и им пользуются) нам показывают самые cute применения, яркие и блестящие.
Недавно, например, устроили шоу "светлячков", которые роем синхронно в небе выделывали фигуры, то зажигая фонарики, то мигая ими, перестраиваясь, кружась и т.д.

Военные могут например, уничтожать роями объекты с воздуха, или минировать что-нибудь на земле, или следить, или ....; на стройке рой может наносить что-нибудь кусками в места, недоступные кранам и проч.

Вчера давали ссылку на "тараканов, которые будут искать жертвы землетрясений под обломками"

Так что возможно "искусственный интеллект" появится как подражание муравьям и пчелам, и особенно интересны здесь алгоритмы, которые заставляя "насекомых" делать примитивные решения _локально_ приведут к сложному поведению стаи. Сейчас таких уже известно несколько штук

[vitus_wagner]

Я нигде не говорил что военные БПЛА и наземные мобильные роботы должны обладать интеллектом индивидуальным, а не роевым.

[dzz]

Зачатки роевого интеллекта уже есть - у КР "Базальт" и "Гранит", например. Схема атаки на корабельный ордер с распределением целей по принципу "волчьей стаи". Придумано ещё в 70-е.

[greenkrokodilla]

а я на вас и не нападаю, просто напомнил о такой идее.

Кстати, да, еще один комментатор напомнит тоже: уничтожение авианосцев (и прочих кораблей) роем летучек, каждая из которых не может быть поражена ни торпедой, ни ракетой, ни даже пулеметами или матросами, палящими из своих автоматических винтовок

Слетелись в одно критическое место, синхронно подорвались - и убили слона.

[greenkrokodilla]

а я на вас и не нападаю, просто напомнил о такой идее.

Кстати, да, еще один комментатор выше подсказывает: уничтожение авианосцев (и прочих кораблей) роем летучек, каждая из которых не может быть поражена ни торпедой, ни ракетой, ни даже пулеметами или матросами, палящими из своих автоматических винтовок

Слетелись в одно критическое место, синхронно подорвались - и убили слона.

[igoretz]

В Гугл послали запрос: "Существует ли ИИ"?
"Недостаточно данных", — ответил поисковик. — "Пускай все пользователи разрешат у себя куки".
"Все еще недостаточно данных. Пусть все включат javascript".
"И залогинятся в gmail".
"И перейдут на Chrome".
...

[stranger_p_a.livejournal.com]

Благодарю.

Но Вы откомментировали только первый вопрос, второй же был: "Если ИИ всё-таки появляется, что нас ждёт?" Тут критическим фактором выступает возможность быстрого и кардинального самоулучшения, практически закрытая для нашего мозга (биоимпланты уже разрабатываются, но, скажем, улучшителя памяти сейчас нет даже в глубокой теории).

Уже сейчас новые поколения процессоров делают, вовсю используя предыдущие для проектирования процессоры предыдущего, то есть, развитие идёт более-менее эволюционно (вряд ли сейчас на планете есть один человек, способный удержать в голове всю схему последних вычислительных чипов).

В Вашем мире я не вижу каких-то особенно умных компов, почему? Вы считаете, что с какого-то момента люди должны по неким причинам прекратить прогресс в этой области?

[vitus_wagner]

Если ИИ все-таки появится, у нас появится yet another пакость, с которой придется бороься. У нас таких пакостей уже полная окружающая среда.

Эта пакость не будет быстро и кардинально самоулучшаться. Потому что законы физики помешают.
Все кто "богостроители", которые считают что создав ИИ человек создаст Бога, который мгновенно подчинит себе своего создателя страдают тяжелой формой wishful thinking.

Темпы эволюции ИИ будут соизмеримы с темпами эволюции челвоеческого обещства, если не медленнее.

Вообще говоря, на планете нет ни одного человека, способного удержать в голове человеческую культуру в целом. Это и не нужно, с тех пор как человечество придумало даже не письменность, а общественное разделение труда.

Особо умные компы там есть. Система распознавания образов которая в реальном времени находит на спутниковых снимках подозрительные на пиратскую активность катера - это очень умный комп.
Еще там есть комп, который работает в Терранете первой и второй линией техподдержки одновременно, так что до живых людей доходит несколько запросов в смену. Если вы когда-нибудь работали на second line support, вы должны проникнуться мощью и величием данной системы.

а может это Вы страдаете wishful thinking?

[neo_der_tall.livejournal.com]

С чего бы ИИ тормозить в эволюции до человеческой? При законе Мура то? Да и расширяемость его будет много проще чем расширяемость головного мозга.

[stranger_p_a.livejournal.com]

Если ИИ все-таки появится, у нас появится yet another пакость, с которой придется бороься.
Почему?
Если ИИ будет очень слаб, мы будем ему нужны.
Если очень силён - мы не будем представлять угрозы, смигрирует куда-нибудь непостижимо и всё.
То есть, чтобы с ним бодаться, надо попасть в узкий интервал, когда он ещё способен конкурировать с нами за ресурсы.

Эта пакость не будет быстро и кардинально самоулучшаться. Потому что законы физики помешают.
Законы физики говорят, что в полутора килограммах серого вещества можно разместить неслабое сознание и ещё кучу всего, при этом размещение происходит заведомо неэффективным способом. Если бы законы биологии позволили построить качественно такой же мозг, но в миллион раз больше (миллион мозгов с общей памятью на площади футбольного поля), было бы интереснее. Но законы физики конкретно здесь не мешают.

Все кто "богостроители", которые считают что создав ИИ человек создаст Бога, который мгновенно подчинит себе своего создателя страдают тяжелой формой wishful thinking.
Тут, скорее, мания величия. Если действительно получится ИИ - делать ему нечего, нас подчинять.

Темпы эволюции ИИ будут соизмеримы с темпами эволюции челвоеческого обещства, если не медленнее.
С чего бы это? У нас сейчас не биологическая, а социальная эволюция, - мозг мы улучшать не умеем. В отличие от.

Вообще говоря, на планете нет ни одного человека, способного удержать в голове человеческую культуру в целом. Это и не нужно, с тех пор как человечество придумало даже не письменность, а общественное разделение труда.
Почему же не нужно? Простой пример: как Грин жалуется, что нет сейчас превосходных физиков, являющихся к тому же превосходными математиками, так что некому построить Единую Теорию... То есть, сейчас ценой подхода к границе человеческих знаний является очень долгая и узкая специализация. С открытиями на стыке - вообще швах. И это, ИМХО, именно проблемы, связанные с пределами постоянной и оперативной памяти и скоростью обработки информации (в т.ч. помещения её в эту память).

Особо умные компы там есть...
Почему прогресс не пошёл дальше? Натаскать "особо умную" сеть на проектирование и производство нанороботов, или на рекурсивное проектирование следующих поколений "особо умных" компов? им не хочется жить вечно?

[vitus_wagner]

Потому что единственный способ для ИИ сохранить название ИИ после своей реализации - это иметь собственные интересы, в корне отличные от человеческих. Иначе он будет обозван по-другому, как уже обозваны по-другому OCR, Computer Vision и speech recognition.

А такой ИИ проще рассматривать как вредителя и уничтожать где ни попадя.
.
С чего бы это? У нас сейчас не биологическая, а социальная эволюция, - мозг мы улучшать не умеем. В отличие от.
Никого не волнуют возможности мозга. Волнуют возможности каналов передачи данных.
Человеческое общество прекрасно пользуется теми же каналами передачи данных, что будут в распоряжении ИИ. Других ему взять не куда. Еще раз - это только идиоты-философы думают что интеллект - это то, что в мозгу. И думают они так только до встречи с грубым наёмником, после которой их мозгии оказываются расплесканными по мостовой, Человеческий интеллект это умение производить оружие, водить полки и вообще организованно убивать.