Кризис доверия
May. 18th, 2007 12:28 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
vitus_wagner![[livejournal.com profile]](https://www.dreamwidth.org/img/external/lj-userinfo.gif){kind=small}
realcorwin пишет серию постов о Чернобыле, сравнивая эту катастрофу с другими техногенными и природными катастрофами последнего столетия (начиная с Титаника).И вот какие интересные мысли у него проскальзывают:
Под "сбоями взаимодействия" подразумеваются аварии, когда действия экипажа, сами по себе, вполне разумны, и все системы самолета работают исправно, но "плюс" на "плюс" совершенно неожиданно дает "минус". Такое было совершенно невозможно в машинах 1950 – начала 1970-х годов, которые "по определению" подчинялись воле пилота. Но с появлением различной автоматики безопасности, призванной уберечь машину от возможных грубых ошибок человека, с удивительным постоянством стали возникать ситуации, которые пилот и автоматическая система оценивали по-разному. В результате, часть команд летчика блокировалось автоматикой – с вполне однозначным результатом. Например, автоматика А-320 не распознала касание земли при посадке самолета в Варшавском аэропорту и отказалась выпустить спойлеры и включить реверс двигателя
То есть разработчики и покупатели техники не доверяют профессионалам, эту технику эксплуатирующим.
Вы думаете почему я так возвмущаюсь по поводу dbus, udev и прочих подобных нововведений в Linux? А потому что та же самая тенденция. Но в случае персональных компьютеров - она ещё более абсурдна. Получается что владелец компьютера не доверяет сам себе, вернее доверяет разработчику софта больше, чем самому себе. Да, конечно, в чем-то разработчик более компетентен. Да, конечно, есть ситуации когда надо защищаться от собственных ошибок. Но невозможность в некоторый конкретный момент взять управление на себя, сказать "делай как я сказал! Сейчас Я знаю, что все твои алгоритмы фигня, а делать надо так-то" - это мина замедленного действия, заложенная в техническую систему.
Там же:
Высокое информационное сопротивление советской пирамиды власти сыграло значительную роль в усугублении последствий катастрофы и, в частности, вызвало задержку эвакуации и переоблучение населения, но, во-первых, этот фактор компенсировался высокой организованностью процедуры эвакуации. И, во-вторых, информационное сопротивление американской управляющей системы оказалось приблизительно таким же в Нью-Йорке 11 сентября 2001 года или в Нью-Орлеане летом 2005 года. Кризис управления характеризует современный этап развития индустриальной цивилизации и равным образом проявился для всех ведущих промышленных стран.
Так причина-то та же самая. Социальная пирамида - это тоже такая машина, созданная людьми и управляемая людьми. И если создатели не доверяют конкретным операторам, а операторы - друг другу, информационное сопротивление неизбежно будет высоким.
Аналогичная тема у меня вылезла недавно в одной политической дискуссии.
rblaze заявил "Не доверяю я народу". Э, а кому ещё доверять?
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2007-05-18 10:42 am (UTC)Если бы все инструкции соблюдались, ни один самолет не оторвался бы от земли никогда.
И никто не ведет статистики по предотвращенным катастрофам (потому что о них зачастую просто не докладывают).
Никто не знает в скольких случаях отключение автопилота спасло самолёт.
Опять же = если летчик отключает автопилот и пытается вырулить сам, значит он автопилоту по каким-то причинам не доверяет. Тот же самый кризис доверия, но в обратную сторону. Например, летчик не уверен, что не выключи он автопилот заранее, он сможет вмешаться в процесс управления тогда, когда это реально понадобится.
no subject
Date: 2007-05-18 11:09 am (UTC)судя по тому, что пишет
в норме - докладывают.
более того, по существующим правилам запись переговоров в полете подлежит прослушиванию и анализу вне зависимости от результатов полета.
отключение автопилота на современных машинах - это УЖЕ внештатная ситуация.
no subject
Date: 2007-05-18 11:13 am (UTC)no subject
Date: 2007-05-18 11:26 am (UTC)no subject
Date: 2007-05-18 11:28 am (UTC)no subject
Date: 2007-05-18 11:36 am (UTC)Только себе да и то с оговорками.
:)
Date: 2007-05-18 11:37 am (UTC)no subject
Date: 2007-05-18 11:38 am (UTC)В Debian я мейнтейнерам (за исключением мейнтейнера vim) доверяю в среднем больше, чем upstream авторам.
no subject
Date: 2007-05-18 11:54 am (UTC)Согласен. Но корень проблемы, думаю, глубже: автоматика пока не умеет творить, а адекватная оценка ситуации отчасти творческая задача, полагающаяся не только на опыт в данной сфере, но и на опыт из других. Именно поэтому толкового пилота никогда не заменит автопилот, нейросети не заменят толкового метеоролога и т.п. Т.е. разыгрывать стандартные положения они будут уметь, но девиации будут вызывать неадекватное поведение - система неустойчива по отношению к некоторым классам возмущений.
О классах возмущений - обратимся к Чернобылю: данных и опыта по работе реактора РБМК-1000 на малых мощностях или по его работе от токов выбега турбин почти не было, но "ума" хватило "поэкспериментировать". Системы контроля: 1) автоматика; 2) операторы; 3) проводящий эксперимент Дятлов; 4) команда сверху ("партия" ведь приказала проверить возможность автономной работы реактора). Но, обратите внимание, что полной информации о работе реактора и допустимых классах возмущений не имел, imho, даже Александров. Так и называлось, afair, эксперимент. Дорогой получился... да :(
Может тоже как-нить напишу, что знаю. Надо только валерьянкой запастись :/
Статью гляну на выходных.
no subject
Date: 2007-05-18 11:59 am (UTC)(т.е., Сергея Переслегина и других авторов).
О чем автор постов, разумеется, упомянул и что ни в малейшей степени не снижает уважение к этой серии постов.
no subject
Date: 2007-05-18 12:00 pm (UTC)Полной информации о любой физической системе (и даже о формальной, но достаточно сложной) не бывает ни у кого и никогда. Искусство управления заключается в том, чтобы получить нужную для принятия решения информацию до того момента, как принимать решение будет поздно.
no subject
Date: 2007-05-18 12:01 pm (UTC)no subject
Date: 2007-05-18 12:02 pm (UTC)no subject
Date: 2007-05-18 12:02 pm (UTC)Правда, к стабильности работы пакетов в stable версии у меня много вопросов с момента ухода автора дистриба в M$ :( Но "поиграться" есть чем :/
> На мой взгляд там автоматика и ручное управление очень хорошо совмещаются.
no subject
Date: 2007-05-18 12:12 pm (UTC)no subject
Date: 2007-05-18 12:13 pm (UTC)И уж, согласитесь, информацию эту должны были добывать квалифицированные физики, а не инженеры-техники?!
Были траблы и в Manhattan project. И реактор футболисты собирали и при поиске крит.массы, чуть не рвануло. Но ведь не сотни тысяч?! (Сотни тысяч были позже. И, думаю, группа Оппенгеймера не раз пожалела о содеянном. Но это отдельный разговор.)
no subject
Date: 2007-05-18 06:59 pm (UTC)Вообще сейчас и процессоры собираются делать по принципу "каждой задаче - своё ядро".
Универсальность хороша на стадии startup'а, свободного плаванья, когда ещё непонятно, куда двигаться. Следующий этап - шаблонизация, специализация.
no subject
Date: 2007-05-18 07:33 pm (UTC)Насколько я помню, в линуксе бывают ситуации, когда нельзя удалить файл даже командой rm -f. Или я не прав и такого не бывает?
no subject
Date: 2007-05-18 07:37 pm (UTC)no subject
Date: 2007-05-18 11:59 pm (UTC)1. Вмешивайся в работу тактического компьютера, только если у тебя есть информация, которой у него нет.
2. У тебя никогда нет такой информации.
(Откуда-то из Буджолд)
Все успешные (не обязательно коммерчески, но оказавшие влияние на представления о возможном) языки доверяли программисту - C, Lisp, Smalltalk. (Paul Graham, какая-то из статей про Arc).
... Разноцветье слов и стали ...
no subject
Date: 2007-05-19 12:00 am (UTC)... На этой охоте вообще не в обычае шум ...
no subject
Date: 2007-05-19 01:56 am (UTC)no subject
Date: 2007-05-19 01:57 am (UTC)no subject
Date: 2007-05-19 01:58 am (UTC)no subject
Date: 2007-05-19 06:52 am (UTC)