Кабельное телевидение

Одна из ироний слежки заключается в том, что это такая быстро развивающаяся область, за которой трудно уследить.

Через год после моего назначения я подумал, что было бы полезно выделить 4 темы года, за каждой из которых следует контрольный вопрос для вас:

Биометрическое наблюдение — это не только защита данных

Дэвид Фуллер был осужден по двум пунктам обвинения в Королевском суде Мейдстона в декабре прошлого года. Сообщается, что Фуллер снял на видео свое сексуальное насилие над 100 трупами в течение десятилетий, от очень маленьких детей до пожилых женщин, сохраняя изображения в своем доме.

ДНК сыграло ключевую роль в расследовании, но я поместил его сюда не поэтому. Если бы он провел DPIA и следовал политике сбора и хранения конфиденциальных личных данных, Фуллер на 100% соблюдал бы букву закона, потому что наш DP защищает только живых.

Поведение Фуллера было едва ли не самым вопиющим и навязчивым, какое только можно себе представить, нарушающим элементарные уровни человеческого достоинства и уважения. Судья первой инстанции сказал ему: «Ваши действия противоречат всему правильному и гуманному». Действительно, но они не противоречат GDPR.

Звучали призывы к обязательной установке видеонаблюдения в больничных моргах, но любой DPIA будет таким же, а камеры даже не подпадают под действие Кодекса камер наблюдения, поскольку они не находятся в общественном месте и не управляются «соответствующим органом» ( в настоящее время ограничивается полицией и местными властями).

Биометрическое наблюдение — это не только защита данных. Если люди думают, что государство наблюдает за ними или их разговоры подслушивают, и поэтому решают не говорить, не протестовать, не встречаться на публике, не путешествовать — это оказывает глубокое влияние на их основные права человека, но это ничего общего с защитой данных.

Что гротески Фуллера говорят нам о более широких правах человека? Дело снова поднимает некоторые интересные вопросы – например, статья 3 ЕКПЧ устанавливает абсолютное право на защиту от бесчеловечного и унижающего достоинство обращения, в том числе со стороны полиции. Но опять же, это распространяется только на живых — в прошлом году также был случай, когда полицейские фотографировали жертв убийства — да, отвратительное профессиональное поведение вызывает вопросы, но Оценка воздействия на права человека дала бы результаты, аналогичные DPIA.

Вопрос наблюдения: насколько ваша политика и практика видеонаблюдения предполагает, что все, что имеет значение, распространяется на соблюдение требований по защите данных?

Законное и подотчетное наблюдение касается того, что допустимо по закону, да, но все чаще оно касается того, что приемлемо для нас как граждан и сообществ. На мой взгляд, точка, в которой сходятся законность и приемлемость, — это этика, где мы обнаруживаем, что вторая ключевая концепция наблюдения доминировала в прошлом году.

Синьцзянское наблюдение

В большинстве наших государственных органов есть комитеты по этике, поборники этики — министр полиции спросил в Палате лордов в январе: «Разве мы не национальный комитет по этике?» В некоторых организациях даже есть лозунги о том, что этика лежит в основе всего, что они делают. Мы знаем, что в полицейской деятельности этика находится в центре национальной модели принятия решений, а это, по мнению Полицейского колледжа, означает, что она лежит в основе всех полицейских решений, включая, предположительно, закупки.

Эти объекты, расположенные в провинции Синьцзян на севере Китая, спроектированы, построены и эксплуатируются для работы с одной группой людей: мусульманами-уйгурами. Чтобы выполнять свои функции, они в значительной степени полагаются на наблюдение, современное наблюдение, разработанное и проданное государственными компаниями по наблюдению.

В декабре прошлого года, вынося решение Уйгурского трибунала, сэр Джеффри Найс, королевский адвокат, установил, что «сотни тысяч уйгуров — по некоторым оценкам, более миллиона — были задержаны и подвергнуты актам бессовестной жестокости, разврата и бесчеловечности. Иногда до 50 человек содержались под стражей в камере площадью 22 квадратных метра, за которой в каждый момент наблюдали камеры видеонаблюдения».

Далее в приговоре говорилось: «Многие из задержанных подвергались пыткам – задержанные мужчины и женщины были изнасилованы – один задержанный был подвергнут групповому изнасилованию полицейскими перед аудиторией из ста человек, всех заставили смотреть, [в то время как другие] были изнасилованы мужчинами, заплатившими быть допущенным в следственный изолятор для этой цели».

Не все со мной согласны, но я думаю, что это поднимает некоторые этические вопросы. Давайте остановимся и посмотрим на некоторые из них.

Вы бы не наняли отдельного оператора наблюдения, который спроектировал, построил и работал в одном из этих ужасных мест, так зачем вам нанимать компанию, которая спроектировала, построила и эксплуатировала их?

Сколько государственных денег этично вкладывать в проектирование, строительство и эксплуатацию этих объектов? Какую часть налоговых поступлений мы должны передать компаниям по наблюдению, которые принадлежат и контролируются тем же государством, которое, по мнению Трибунала, несет прямую ответственность за геноцид, использующий для его совершения свои технологии наблюдения? Как партнерство с такими компаниями и обогащение их владельцев «ставят этику в основу всего, что мы делаем»?

Многие органы государственной власти покупали и устанавливали системы видеонаблюдения у таких компаний — во многом, как мне кажется, исходя из того, что камеры предлагают «соотношение цены и качества». Ну, я полагаю, это обмен ценностей на деньги, но это не совсем одно и то же, и существуют разные способы подсчета стоимости. Я хотел бы узнать от этих властей: «Как это соотносится с профессиональной и личной этикой ваших офицеров и сотрудников? Вы спрашивали их?

Интересно, как наши супермаркеты добились больших успехов в улучшении условий содержания животных. Настаивая на том, что поставщики соблюдают минимальные стандарты в отношении гуманного обращения с животными, сектор розничной торговли сделал этику условием входа на этот рынок. В следующий раз, когда вы будете в супермаркете, вы можете посмотреть и проверить, чья система камер следит за вами каждый момент, а затем подумать об этичности заключения коммерческих контрактов, которые должным образом включают очень высокие стандарты обращения поставщика с курами на свободном выгуле. но абсолютно ничего о нарушениях прав человека. Это выглядит несколько асимметрично.

И речь идет не о бойкоте продуктов — важнее здесь то, что системный характер наших возможностей наблюдения означает, что люди должны доверять и доверять всему этому — не только полиции или общественности, но и всей экосистеме наблюдение. А это значит, что мы должны быть более бдительными, если мы хотим сохранить общественное доверие к нашей собственной государственной слежке. Нам нужно быть осторожными в чьей корпоративной компании мы держимся. Законная, этичная, общественно приемлемая слежка требует системного подхода, а системный подход означает сосредоточение внимания на целостности систем слежки и практики в целом, а также на стандартах всего и каждого в ней. Потому что в системных условиях, если вы заражаете одну часть, вы заражаете все.

Вопрос наблюдения. Насколько ваши партнеры по наблюдению отражают ваш профессиональный кодекс этики и ваши собственные профессиональные ценности?

Прошедший год как никогда показал, что то, что приемлемо для гражданина, имеет значение не только здесь, но и во всем мире. И то, что приемлемо для гражданина, меняется, как и ваши отношения наблюдения. Это понял знаменитый сын великого города, в котором мы находимся сегодня, кто-то, кто, возможно, сделал больше для продвижения обсуждения современных общественных проблем, чем большинство — конечно, я говорю о Бэнкси.

Бэнкси

Заголовок этого слайда гласит: «Неизлечимо больной папа арестован шестью полицейскими за то, что охотился на камеру контроля скорости».

Сообщается, что в прошлом году 55-летний Даррелл Микком протестовал против камеры контроля скорости в Киддерминстере. Его жена и сиделка вели собственное наблюдение и засняли, как полицейские повалили неизлечимо больного мужчину на землю и надели на него наручники. Видео инцидента стало вирусным. Вскоре после этого эта фреска появилась в его родном городе.

Был ли это настоящий Бэнкси или один из его последователей, как ходят слухи, не имеет значения — эта история является яркой иллюстрацией нескольких проблем слежки:

• Не всякое наблюдение за общественными местами приветствуется — пандемия COVID-19 дала несколько очень хороших примеров в прошлом году — общественная реакция на нее может быть мгновенной и продолжительной.

• «Отношения наблюдения» между полицией и гражданами означают, что граждане часто наблюдают за вами, обмениваясь изображениями со скоростью и масштабом, которые мы и представить не могли десять лет назад.

• Кроме того, полиция и государственные службы все больше зависят от изображений, генерируемых гражданами из целого ряда устройств и источников.

Первым публичным сообщением многих полицейских сил сейчас часто является обращение не «для свидетелей», а для изображений с камер наблюдения.

Теперь мы видим, что полиции нужны не просто изображения гражданина, а изображения гражданина. Это имеет глубокие последствия для «отношений наблюдения». В расследованиях могут использоваться выдержки из уличного видеонаблюдения, но они также полагаются на снимки с видеорегистраторов, GoPro, дверных звонков и автомобильных парковок. Полиция все больше полагается на продукт совокупных возможностей наблюдения, состоящих из сотен источников, большинство из которых находятся в частной собственности.

Если одна часть системы отталкивает граждан с помощью того, что считается неэтичными партнерами, непроверенными технологиями, ненадежными процессами, массовым хранением фотографий или вообще непропорциональным вторжением в их жизнь, они могут быть менее склонны помогать, когда другая часть система нуждается в их помощи.

И еще один аспект этих новых отношений наблюдения заключается в том, чтобы помнить, что данные, сгенерированные гражданами, могут быть ненадежными, намеренно вводящими в заблуждение или даже злонамеренными.

Вопрос наблюдения. Как Бэнкси изобразил бы ваши отношения наблюдения с гражданином? Вам не нужно распылять его на стену, но хотя бы подумайте об этом.

Вы не можете провести конференцию по наблюдению, не упомянув ИИ, что подводит меня к четвертому и последнему событию моего первого года. Важность прозрачности и объяснимости. ИИ в слежке проявляется во многих формах и вызывает смесь восхищения и страха. Есть много сообщений о джиннах, вылезающих из своих бутылок, появлении машин и антиутопическом будущем, выходящем из-под контроля.

Законное и этичное применение ИИ гораздо шире, чем проблема слежки — если вы хотите блестящее резюме и еще не сделали этого, возможно, послушайте лекции BBC Reith, также прошлогодние.

Но из всех вариантов использования, новых приложений и страшилок, чуть ли не самая ужасная вещь, с которой я столкнулся в возможностях наблюдения ИИ, это следующее:

«Привет, Барби»

Забудьте о Гарпии и других «барражирующих боеприпасах», это самая пугающая вещь, которую я видел в эксплуатации ИИ.

Интерактивная кукла, созданная для англоязычного рынка, оснащенная системами распознавания речи и функциями обучения на основе искусственного интеллекта, работающая как устройство IoT!

К счастью, эта игрушка больше не продается из-за опасений по поводу безопасности системы и устройств, и вы могли бы провести целую конференцию только об умных игрушках, но пока просто подумайте о проблемах, возникающих при подключении интерактивной куклы с искусственным интеллектом к развивающемуся ребенку. на одном конце и в интернет на другом. Если вы изо всех сил пытаетесь понять, почему это так ужасно с точки зрения наблюдения, прочитайте Николь Перлрот «Вот как они говорят мне, что мир кончается».

Вернемся к прозрачности и объяснимости. Я слышал, как люди говорят, что ИИ в их технологии наблюдения «слишком сложен», чтобы его можно было объяснить, и что даже их дизайнеры и программисты на самом деле не понимают, как он работает. Что ж, если вы тратите на это деньги общества и соблюдаете свои юридические обязательства, чтобы продемонстрировать, что вы избегаете предвзятости и дискриминации, это не годится. Если вы полагаетесь на автоматизированное принятие решений, которое не сработает, и если вы утверждаете, что этика лежит в основе каждого вашего решения, вам нужно будет доказать этическое функционирование вашего ИИ.

Прозрачность и объяснимость — два краеугольных камня общественной подотчетности. Если ваша технология слишком непрозрачна или непонятна для гражданина, который ее финансирует, и якобы получает от нее выгоду, проблема не в гражданине.

Вопрос о наблюдении. Как вы убедились в том, что все ваши подключенные к Интернету устройства с искусственным интеллектом, используемые для непрерывного и инвазивного мониторинга, такого как видеонаблюдение, безопасны?

А как насчет всех ваших других систем с интенсивным использованием данных, которые собирают данные о мобильности и управляют поведенческой информацией (GPS, устройства отслеживания Wi-Fi, технология RFID, интеллектуальные транспортные системы и устройства «регистратора данных о событиях»)?

Подводя итог, вот что я узнал за последний год:

1. Важным элементом защиты данных и прав человека является биометрическое наблюдение. Но дело не только в защите данных — точно так же, как распознавание лиц — это просто фотография, а взятие образцов ДНК — это просто химия.

2. Будьте осторожны, с чьей корпоративной компанией вы состоите. Проводите этические проверки так же часто и искренне, как и технические, и будьте так же внимательны к этическим стандартам своих подрядчиков, как и к своим собственным.

3. Позаботьтесь о своих отношениях наблюдения с гражданином — вы будете нуждаться друг в друге. Помните: вы всего лишь часть гораздо более крупной системы наблюдения, и никто не хочет нести ответственность за самую слабую часть этой экосистемы. Следите за своим битом.

4. Никогда не подключайте кукол к интернету.