Кризис доверия

[vitus_wagner]

realcorwin пишет серию постов о Чернобыле, сравнивая эту катастрофу с другими техногенными и природными катастрофами последнего столетия (начиная с Титаника).

И вот какие интересные мысли у него проскальзывают:

Под "сбоями взаимодействия" подразумеваются аварии, когда действия экипажа, сами по себе, вполне разумны, и все системы самолета работают исправно, но "плюс" на "плюс" совершенно неожиданно дает "минус". Такое было совершенно невозможно в машинах 1950 – начала 1970-х годов, которые "по определению" подчинялись воле пилота. Но с появлением различной автоматики безопасности, призванной уберечь машину от возможных грубых ошибок человека, с удивительным постоянством стали возникать ситуации, которые пилот и автоматическая система оценивали по-разному. В результате, часть команд летчика блокировалось автоматикой – с вполне однозначным результатом. Например, автоматика А-320 не распознала касание земли при посадке самолета в Варшавском аэропорту и отказалась выпустить спойлеры и включить реверс двигателя

То есть разработчики и покупатели техники не доверяют профессионалам, эту технику эксплуатирующим.
Вы думаете почему я так возвмущаюсь по поводу dbus, udev и прочих подобных нововведений в Linux? А потому что та же самая тенденция. Но в случае персональных компьютеров - она ещё более абсурдна. Получается что владелец компьютера не доверяет сам себе, вернее доверяет разработчику софта больше, чем самому себе. Да, конечно, в чем-то разработчик более компетентен. Да, конечно, есть ситуации когда надо защищаться от собственных ошибок. Но невозможность в некоторый конкретный момент взять управление на себя, сказать "делай как я сказал! Сейчас Я знаю, что все твои алгоритмы фигня, а делать надо так-то" - это мина замедленного действия, заложенная в техническую систему.

Там же:

Высокое информационное сопротивление советской пирамиды власти сыграло значительную роль в усугублении последствий катастрофы и, в частности, вызвало задержку эвакуации и переоблучение населения, но, во-первых, этот фактор компенсировался высокой организованностью процедуры эвакуации. И, во-вторых, информационное сопротивление американской управляющей системы оказалось приблизительно таким же в Нью-Йорке 11 сентября 2001 года или в Нью-Орлеане летом 2005 года. Кризис управления характеризует современный этап развития индустриальной цивилизации и равным образом проявился для всех ведущих промышленных стран.

Так причина-то та же самая. Социальная пирамида - это тоже такая машина, созданная людьми и управляемая людьми. И если создатели не доверяют конкретным операторам, а операторы - друг другу, информационное сопротивление неизбежно будет высоким.


Аналогичная тема у меня вылезла недавно в одной политической дискуссии. rblaze заявил "Не доверяю я народу". Э, а кому ещё доверять?

Comments

[slobin.livejournal.com]

Пара цитат противоположной направленности, чтобы было непонятно, что я сам думаю: ;-)

1. Вмешивайся в работу тактического компьютера, только если у тебя есть информация, которой у него нет.
2. У тебя никогда нет такой информации.
(Откуда-то из Буджолд)

Все успешные (не обязательно коммерчески, но оказавшие влияние на представления о возможном) языки доверяли программисту - C, Lisp, Smalltalk. (Paul Graham, какая-то из статей про Arc).

... Разноцветье слов и стали ...

from Mike

[(Anonymous)]

Мм... Кирилл, а причем здесь весьма средняя писательница Буджолд? Не говоря уж о том, что описываемая ей ситуация характерна тем, что нужно высокое быстродействие системы, причем "приказ принятый и исполнимый считается условно правильным". То есть на самом деле даже в этой ситуации военные пока к АИ относятся с обоснованной настороженностью, но сама специфика ситуации - сильно отличается от рассматриваемых.
Во втором случае, кстати, цитата тоже "веселая" - по сути, Грэхем утверждает, что этим свойством обладали те языки, которые он лично отобрал по неясному критерию. Не был ли это тот же критерий "доверия программисту"? %)