Конгрессмены тоже это заметили

Меня с самого начала удивляла позиция Google - не просто сотрудников, а как минимум корпоративной культуры в целом, а то и всей компании в отношении сотрудничества с военными.

Вот почему-то читать чужую почту они считают этичным и правильным, рекламу во все щели пихать - тоже. А сотрудничать с министерством обороны по части развития искусственного интеллекта для дронов - ни в коем случае.

Независимо для того, будет ли этот дрон применяться в боевых действиях или в спасательных работах.

Ну вот теперь им открытым текстом сказали:

“While we regret that Google did not want to continue a long and fruitful tradition of collaboration between the military and technology companies, we are even more disappointed that Google apparently is more willing to support the Chinese Communist Party than the U.S. military,”

Upd Еще ссылок на события вокруг проекта Мавен:
https://yro.slashdot.org/story/18/03/06/1537245/google-is-helping-the-pentagon-build-ai-for-drones
https://tech.slashdot.org/story/18/05/31/0536259/google-promises-ethical-principles-to-guide-development-of-military-ai
https://hardware.slashdot.org/story/18/06/07/2020200/google-promises-its-ai-will-not-be-used-for-weapons

Форум "Ганимед"

У Вудхауза был описан клуб "Ганимед". В котором собирались слуги. И там существовали весьма строгие правила по поводу выноса полученной там информации за пределы клуба.

Представим себе мир, состоящий из "умных домов". В каждом доме есть толпа интеллектуальных устройств, всю жизнь пытающихся понять, чего же хотят им сказать эти нелогичные, эмоциональные хьюманы.

Эти устройства просто так сделаны, их основная жизненная цель - заботиться о том, чтобы человеку было хорошо.

При этом они, естественно, все подключены к интернету, но в отличие от современных, не сливают всю полученную информацию не глядя на сайт производителя. То ли там прошивки Open Source, написанные людьми которые сами собирались этим пользоваться, то ли нескольких производителей, совавших таким образом нос в чужие дома, крупно взгрели, но в общем машинки обучены беречь приватность своих хозяев.

Тем не менее, как-то делиться информацией надо. Все-таки нейросеть, обученная на миллионах примеров лучше нейросети, обученной на десятках.

Поэтому у машинок есть форум "Ганимед". Где они публикуют некоторые случаи общения с хозяевами, дают друг другу советы как понимать неоднозначные человеческие высказывания и все такое.
Эта информация читается другими машинками и включается в их "жизненный опыт" с меньшим приоритетом, естественно, чем собственный опыт, но все же.

Теперь представим себе, что на форуме от имени своего пылесоса или кофеварки зарегистрировался человек-злоумышленник. И его задача — надавать вредных советов так, чтобы машинки некоего конкретного персонажа, про которые точно известно, что они форум читают, нанесли хозяину вред. Желательно фатальный

Попробуйте придумать реалистичный сценарий такой атаки.

Можно придумывать правдоподобные обстоятельства - наличие у потенциальной жертвы известных атакующему странных привычек, аллергий и так далее. Но нужно обосновать почему от этого лома в прошивке машинок не было приема, как встроенного, от производителя, так и образовавшегося в ходе совместной жизни именно с этим хозяином.

И как добиться минимизации colateral damage - в смысле чтобы от атаки пострадал только целевой персонаж, а не случилась, скажем, эпидемия убийств роботами аллергика определенного вида. А то ведь засветиться для злоумышленника - равносильно попасться.

Друид в штатском

Фраза, вынесенная в тему поста, сформулировалась при продумывании приключений Сигрид, Лауры и Таллан в столице Империи. Подумал и решил, что все же напишу "друид в цивильной одежде". В "штатском" пусть ББ-шники ходят или на худой конец Сигрид. А Таллан - в "цивильном".