Кризис доверия

[vitus_wagner]

realcorwin пишет серию постов о Чернобыле, сравнивая эту катастрофу с другими техногенными и природными катастрофами последнего столетия (начиная с Титаника).

И вот какие интересные мысли у него проскальзывают:

Под "сбоями взаимодействия" подразумеваются аварии, когда действия экипажа, сами по себе, вполне разумны, и все системы самолета работают исправно, но "плюс" на "плюс" совершенно неожиданно дает "минус". Такое было совершенно невозможно в машинах 1950 – начала 1970-х годов, которые "по определению" подчинялись воле пилота. Но с появлением различной автоматики безопасности, призванной уберечь машину от возможных грубых ошибок человека, с удивительным постоянством стали возникать ситуации, которые пилот и автоматическая система оценивали по-разному. В результате, часть команд летчика блокировалось автоматикой – с вполне однозначным результатом. Например, автоматика А-320 не распознала касание земли при посадке самолета в Варшавском аэропорту и отказалась выпустить спойлеры и включить реверс двигателя

То есть разработчики и покупатели техники не доверяют профессионалам, эту технику эксплуатирующим.
Вы думаете почему я так возвмущаюсь по поводу dbus, udev и прочих подобных нововведений в Linux? А потому что та же самая тенденция. Но в случае персональных компьютеров - она ещё более абсурдна. Получается что владелец компьютера не доверяет сам себе, вернее доверяет разработчику софта больше, чем самому себе. Да, конечно, в чем-то разработчик более компетентен. Да, конечно, есть ситуации когда надо защищаться от собственных ошибок. Но невозможность в некоторый конкретный момент взять управление на себя, сказать "делай как я сказал! Сейчас Я знаю, что все твои алгоритмы фигня, а делать надо так-то" - это мина замедленного действия, заложенная в техническую систему.

Там же:

Высокое информационное сопротивление советской пирамиды власти сыграло значительную роль в усугублении последствий катастрофы и, в частности, вызвало задержку эвакуации и переоблучение населения, но, во-первых, этот фактор компенсировался высокой организованностью процедуры эвакуации. И, во-вторых, информационное сопротивление американской управляющей системы оказалось приблизительно таким же в Нью-Йорке 11 сентября 2001 года или в Нью-Орлеане летом 2005 года. Кризис управления характеризует современный этап развития индустриальной цивилизации и равным образом проявился для всех ведущих промышленных стран.

Так причина-то та же самая. Социальная пирамида - это тоже такая машина, созданная людьми и управляемая людьми. И если создатели не доверяют конкретным операторам, а операторы - друг другу, информационное сопротивление неизбежно будет высоким.


Аналогичная тема у меня вылезла недавно в одной политической дискуссии. rblaze заявил "Не доверяю я народу". Э, а кому ещё доверять?

Comments

[silly_sad.livejournal.com]

> Но невозможность в некоторый конкретный момент взять управление на себя, сказать "делай как я сказал! Сейчас Я знаю, что все твои алгоритмы фигня, а делать надо так-то" - это мина замедленного действия, заложенная в техническую систему.


оказывается вы тоже против винды !

НО
в чернобыле именно так и сделали: вручную и против указаний выданных машиной и против инструкций созданных создателями реактора. И в ручную же потом не смогли ничего исправить.

Такчто проблема гораздо сложнее.

Мне кажется, что в случае с реактором конфликт между оператором и машиной надо всегда разрешать в пользу машины потому что в этом случае управляемый процесс:
1) принципиально быстрее реакции человеческого мозга
2) необратим
3) полностью ненаблюдаем человеком

В случае с управлением операционной системой, напротив, оператору доверия больше, потому что:
1) процесс всегда можно остановить и подумать
2) он теоретически обратим
3) он недоступен познанию машиной, потому что он по отношению к машине НЕ ВНЕШНИЙ.

так что напрасно вы все нахрен смешиваете.

[silly_sad.livejournal.com]

> А здесь желание сделать чтобы понимать было не надо, в результате если понять всё-таки надо, это слишком сложно.

а Вы ещё и против ООП !

[yarikas.livejournal.com]

Согласен. Необходимое, но не достаточное.

- То-есть он говорил? - Спросил Филипп Филиппович, - это еще не значит быть человеком.

Такова проблема, что как раз автоматику заменяют людьми, и они от этого тупеют :(

[yarikas.livejournal.com]

> Вопрос в том, что автоматику пытаются заставить заменять собой неглупого человека, выполняющего команды человека глупого.

А! Видимо, это о том же? Именно человеком заменяют автомат?

[tzirechnoy.livejournal.com]

В прямом, в общем. БОльшая часть современных авиакатастроф -- грубые нарушэния инструкцый. Дажэ допотопная тушка над Донецком -- честно несколько раз визжала о недопустимом угле атаки. Армянский A320 в Сочи -- забыли убрать шасси и перевести закрылки во взлётное положэние при уходе на второй круг. Дальнейшэе -- задёргались. При этом автопилот бы их вывел, но пришла сигнализацыия о потере энэргии (которая кинетическая самолёта). Совсем запаниковали, начали пороть чушь. Иркутск -- вообще говорят, что неисправный реверс переставили с одного двигателя на другой. Не, конечно, пилоты знали (умозрительно). Но в критическую минуту это не спасло -- руки, видать, привыкли к тому, что реверс работает с другой стороны.
И так далее. И да, это правда -- гражданские суда бьются в основном из-за чьих-то очевидных ошыбок. И перевод управления всё более на автоматику -- это неизбежная и не то, чтобы грустная тэндэнцыя.


Кстати, раз уж написал в ветку -- херню там какую-то изначальный автор пишэт. "Например, Г.Медведев постоянно указывает на практику замалчивания "атомных аварий", действительно существовавшую в Советском Союзе, как на одну из основных причин Чернобыльской катастрофы. Но это вовсе не так! "Дочернобыльские" аварии носили принципиально другой характер" -- как это не так, если неконтролируемый разгон реакторов такого типа ужэ встречался до этого?!? Если люди, предупреждавшые о возможности проблемы были -- но ни в какую прессу они не могли обратиться по самой структуре общества?
Кроме того, я не вижу какого-то сопротивления американской управляющей системы в Новом Орлеане в 2005. Там осталось очень мало населения, при этом оставшыеся всё-таки были своеобразными людьми в свободной стране.

from Mike

[(Anonymous)]

Мм... Кирилл, а причем здесь весьма средняя писательница Буджолд? Не говоря уж о том, что описываемая ей ситуация характерна тем, что нужно высокое быстродействие системы, причем "приказ принятый и исполнимый считается условно правильным". То есть на самом деле даже в этой ситуации военные пока к АИ относятся с обоснованной настороженностью, но сама специфика ситуации - сильно отличается от рассматриваемых.
Во втором случае, кстати, цитата тоже "веселая" - по сути, Грэхем утверждает, что этим свойством обладали те языки, которые он лично отобрал по неясному критерию. Не был ли это тот же критерий "доверия программисту"? %)

from Mike

[(Anonymous)]

А вот тут не могу не согласиться. Ситуации - разные. Кстати, ситуация с автопилотом по указанным параметрам - где-то посередине. При этом в принципе можно докинуть и еще параметров, хотя, по первому впечатлению, эти - основные.
Правда, даже в случае реактора есть еще один нюанс - а) ядерные реакции познаны все же не до конца, а алгоритм работы автоматики еще и огрубляет известные теории (и не может этого не делать) и б) конструктивные особенности имеющегося физического устройства алгоритмом машины не рассматриваются (если этого не заложил автор алгоритма, на что гарантии нет) - см. пример с полыми концами стержней. Разумеется, у автора алгоритма времени больше, чем у оператора - но все же не настолько много, чтобы предусмотреть все возможные случаи...

[(Anonymous)]

Дятлов в своё время достаточно чётко описал в, как он это назвал, "статье":
1. Они не нарушали инструкций, поскольку запрета работы реактора на малых мощностях не было.
2. Их действия были продиктованы Программой (и они не сами эту Программу выдумали - пришла сверху, в т.ч. в её создании участвовали создатели РБМК-1000 в его изначальной "редакции").
3. Основополагающая причина аварии: это преступный конструкторский просчёт (или недочёт), нарушивший множество инструкций, стандартов и прочих документов, руководящих проектными и строительными работами по созданию ядерных реакторов. Виновники даже близко не стояли со скамьёй подсудимых. К примеру, довольно красноречивое сравнение самого Дятлова педали тормоза автомобиля с кнопкой АЗ-5. Нажимаете на тормоз в своём автомобиле, а вместо этого машина ускоряется, что есть немыслимый бред.

[http://users.livejournal.com/_kleptos_/]

hardended профиль не пробовали?