• Центральное управление цифровых данных и данных Кабинета министров разработало стандарт алгоритмической прозрачности для государственных ведомств и органов государственного сектора совместно с Центром этики данных и инноваций.
• Стандарт будет апробирован несколькими организациями государственного сектора и доработан на основе отзывов.
• Этот шаг делает Великобританию одной из первых стран в мире, которая разработала национальный стандарт алгоритмической прозрачности, укрепляя позиции Великобритании как мирового лидера в области управления ИИ.

Правительство Великобритании ввело в действие один из первых в мире национальных стандартов алгоритмической прозрачности.

Этот шаг соответствует обязательствам, взятым в Национальной стратегии ИИ и Национальной стратегии обработки данных , и укрепляет позиции Великобритании как глобального лидера в области ИИ, заслуживающего доверия.

В своем знаменательном обзоре предвзятости в алгоритмическом принятии решений Центр этики данных и инноваций (CDEI) рекомендовал правительству Великобритании наложить обязательное обязательство прозрачности на организации государственного сектора, использующие алгоритмы для поддержки важных решений, влияющих на людей.

Этот призыв к прозрачности вокруг использования систем искусственного интеллекта был решительно поддерживает внутри страны и на международном уровне , в том числе организаций гражданского общества , такие как Алан Тьюринг институт и Ад Лавлейс институт , а также международные организации , такие как ОЭСР и Партнерство открытого правительства . Эти известные организации выступают за большую прозрачность, чтобы помочь управлять рисками, связанными с алгоритмическим принятием решений, провести необходимый анализ роли алгоритмов в процессах принятия решений и помочь укрепить общественное доверие.

Центральное управление цифровых данных и данных (CDDO) Кабинета министров тесно сотрудничало с CDEI и консультировалось с организациями гражданского общества и общественностью при разработке стандарта. Стандарт состоит из двух уровней. Первый включает краткое описание алгоритмического инструмента, включая то, как и почему он используется, а второй включает более подробную информацию о том, как работает инструмент, наборы данных, которые использовались для обучения модели, и уровень человеческого надзор. Стандарт поможет командам быть полностью прозрачными в отношении того, как алгоритмические инструменты используются для поддержки решений, особенно в тех случаях, когда они могут иметь юридические или экономические последствия для отдельных лиц.

В ближайшие месяцы стандарт будет опробован несколькими правительственными ведомствами и органами государственного сектора. После пилотного этапа CDDO рассмотрит стандарт на основе собранных отзывов и запросит официальное одобрение со стороны Управления по стандартизации данных в 2022 году.

Активно публикуя эту информацию, правительство Великобритании дает экспертам и общественности возможность взаимодействовать с данными и проводить внешнюю проверку. Повышение прозрачности также будет способствовать появлению заслуживающих доверия инноваций, обеспечивая лучшую видимость использования алгоритмов в государственном секторе и позволяя смягчить непредвиденные последствия на раннем этапе.

Публикация стандарта последовала после того, как правительство Великобритании запросило мнения по предложению о введении прозрачной отчетности об использовании алгоритмов в процессе принятия решений в государственном секторе в рамках своих консультаций о будущем режима защиты данных в Великобритании. Правительство Великобритании в настоящее время анализирует полученные отзывы.

Лорд Агнью, государственный министр при кабинете министров, сказал:

Организации государственного сектора могут использовать алгоритмы, чтобы помочь им принимать более справедливые решения, повысить эффективность государственных услуг и снизить затраты, связанные с доставкой. Однако они должны использоваться в процессах принятия решений таким образом, чтобы управлять рисками, поддерживать самые высокие стандарты прозрачности и подотчетности и создавать четкие доказательства воздействия. Я горжусь тем, что сегодня мы стали одной из первых стран в мире, опубликовавших межправительственный стандарт алгоритмической прозрачности, выполняя обязательства, взятые в Национальной стратегии обработки данных и Национальной стратегии искусственного интеллекта, и одновременно являясь примером для организаций во всем мире. СОЕДИНЕННОЕ КОРОЛЕВСТВО.

Адриан Веллер, программный директор по искусственному интеллекту в Институте Алана Тьюринга и член Консультативного совета Центра этики данных и инноваций, сказал:

Организации все чаще обращаются к алгоритмам для автоматизации или поддержки принятия решений. У нас есть возможность задействовать правильные механизмы управления по мере роста принятия. Вот почему я рад, что правительство Великобритании опубликовало один из первых в мире национальных стандартов прозрачности алгоритмов. Это новаторский шаг правительства Великобритании, который не только поможет укрепить соответствующее доверие к использованию алгоритмического принятия решений в государственном секторе, но также послужит рычагом для повышения стандартов прозрачности в частном секторе.

Имоджен Паркер, заместитель директора (политика) Института Ады Лавлейс, сказала:

Значимая прозрачность в использовании алгоритмических инструментов в государственном секторе является неотъемлемой частью надежного цифрового государственного сектора. Институт Ады Лавлейс призвал к созданию реестра прозрачности алгоритмов государственного сектора, чтобы позволить общественности и гражданскому обществу, которое действует от их имени, знать, какие системы используются, где и почему. Инвестиции правительства Великобритании в разработку этого стандарта прозрачности являются важным шагом на пути к достижению этой цели и ценным вкладом в более широкий разговор об алгоритмической подотчетности в государственном секторе. Мы с нетерпением ждем испытаний, тестов и итераций, за которыми правительственные ведомства и органы государственного сектора опубликуют завершенные стандарты для поддержки моделирования и развития передовой практики.

Табита Голдстауб, председатель Совета по искусственному интеллекту при правительстве Великобритании, сказала:

В Дорожной карте AI Совета мы подчеркнули необходимость в новых механизмах прозрачности для обеспечения подотчетности и общественного контроля над алгоритмическими процессами принятия решений; и призвала правительство Великобритании рассмотреть анализ и рекомендации Центра этики данных и инноваций и Комитета по стандартам в общественной жизни. Я очень рад, что правительство Великобритании быстро отреагирует на это; выполнение обязательств, взятых в Национальной стратегии ИИ, и укрепление нашей позиции мирового лидера в области ИИ, заслуживающего доверия.

Сэр Патрик Валланс, национальный советник по технологиям и главный научный советник правительства, сказал:

Нам нужны демократические стандарты и хорошее управление для новых технологий, таких как искусственный интеллект, которые улучшат нашу работу и принесут пользу обществу. Запуск этого нового стандарта демонстрирует приверженность правительства делу укрепления общественного доверия и понимания применения этих технологий, в том числе исследования повышения прозрачности в использовании алгоритмов в государственном секторе.

Контакт:

Кабинет министров Пресс-служба 020 7276 7545 [email protected]

Примечания в редакцию:

• CDDO был образован в апреле 2021 года как новый стратегический центр цифровых технологий, данных и технологий для правительства Великобритании. Он входит в состав Кабинета министров и отвечает за формирование и реализацию инновационных и трансформационных стратегий правительства Великобритании для капитального ремонта устаревших ИТ-систем, усиления кибербезопасности Великобритании и обеспечения того, чтобы правительство Великобритании могло более эффективно использовать данные и новые технологии. Ему поручено выполнение Миссии 3 Национальной стратегии данных ; преобразовать использование данных правительством Великобритании для повышения эффективности и улучшения государственных услуг.

• CDEI - это правительственный экспертный орган, который обеспечивает надежное использование данных и искусственного интеллекта. Его многопрофильная команда специалистов, поддерживаемая консультативным советом ведущих мировых экспертов, работает в партнерстве с организациями, чтобы предоставлять, тестировать и совершенствовать надежные подходы к управлению данными и ИИ. CDEI является частью Департамента цифровых технологий, культуры, СМИ и спорта.

• Алгоритм - это набор пошаговых инструкций. В ИИ алгоритм сообщает машине, как найти ответы на вопрос или решения проблемы. Алгоритмический инструмент - это продукт, приложение или устройство, которое поддерживает или решает конкретную проблему с помощью сложных алгоритмов. Алгоритмическая прозрачность означает открытость в отношении того, как алгоритмические инструменты поддерживают решения. Стандарт устанавливает систематизированный способ представления этой информации.

• В июне 2021 года CDDO совместно с CDEI и BritainThinks провел совещательное мероприятие по привлечению общественности для изучения отношения общественности к алгоритмической прозрачности в государственном секторе; результаты которого послужили основой для разработки стандарта. CDDO также собрал широкий круг заинтересованных сторон как внутри правительства, так и за его пределами. Это включало работу с Reform, The Forum Имперского колледжа Лондона и CDEI по организации политического хакатона , в котором приняли участие международные эксперты из правительства, академических кругов и промышленности для изучения практических решений проблем, связанных с прозрачностью алгоритмов.

• Стандарт алгоритмической прозрачности дополнит существующие руководства, доступные на GOV.UK, такие как Структура этики данных и Руководство по использованию ИИ в государственном секторе , которые поддерживают надежное использование алгоритмов в государственном секторе.

• Несколько городов, включая Амстердам , Хельсинки и Нью-Йорк , начали экспериментировать с подходами к повышению алгоритмической прозрачности на местном уровне. Франция и Нидерланды также добились прогресса в разработке национальных мер алгоритмической прозрачности.

• Правительство Великобритании недавно опубликовало свою Национальную стратегию ИИ , в которой оно обязалось создать самую надежную и проинновационную систему управления ИИ в мире. Помимо разработки стандарта алгоритмической прозрачности для государственного сектора, он взял на себя несколько других обязательств, в том числе опубликовал дорожную карту, в которой излагается, как Великобритания может стать мировым лидером в зарождающейся индустрии обеспечения ИИ, а также выпустить Белую книгу, которая устанавливает национальная позиция по управлению и регулированию ИИ.

• В сентябре 2021 года DCMS начала широкую консультацию по режиму защиты данных в Великобритании, представив предложения, основанные на ключевых элементах действующего Общего регламента по защите данных Великобритании (UK GDPR). Консультация закрылась 19 ноября 2021 года.

• Недавнее исследование алгоритмической подотчетности в государственном секторе, проведенное Партнерством открытого правительства, Институтом Ады Лавлейс и Институтом искусственного интеллекта (AI Now Institute), подчеркнуло роль, которую обязательные обязательства публичной отчетности могут сыграть в повышении прозрачности реализации политики алгоритмической подотчетности (стр. 48, стр. 2021 г.).

• Руководство по ответственному проектированию и внедрению систем ИИ в государственном секторе, подготовленное Программой государственной политики Института Алана Тьюринга, гласит, что каждый проект ИИ должен быть оправдан, отдавая приоритет прозрачности процесса, посредством которого модель разрабатывается и реализуется, а также прозрачность и интерпретируемость его решений и поведения (стр. 6, 2019).

• В Принципах ОЭСР по AI состоянии , что должно быть прозрачность и ответственность раскрытие вокруг систем искусственного интеллекта , чтобы гарантировать , что люди понимают результаты AI на основе и может бросить им вызов.

• Премиальные задачи направлены на создание технологических инноваций, которые помогут решить глобальную проблему финансовых преступлений.

• Инноваторы смогут воспользоваться советами экспертов регулирующих органов Великобритании и США.

По оценкам Организации Объединенных Наций (ООН) , ежегодно происходит трансграничное отмывание денег на сумму до 2 триллионов долларов, финансируя организованную преступность и подрывая экономическое процветание. Более широкий обмен информацией и совместная аналитика между финансовыми организациями могут изменить обнаружение этой деятельности, но исследования Королевского института объединенных служб (RUSI) показывают, что этому препятствуют юридические, технические и этические проблемы, связанные с совместным анализом конфиденциальной информации.

Финансовые преступления относятся к тем глобальным проблемам, в решении которых ПЭТ могут сыграть решающую роль.

Сегодня правительства Великобритании и США разрабатывают призовые задачи, направленные на повышение зрелости технологий повышения конфиденциальности (PET) для борьбы с финансовыми преступлениями.

Выступая на саммите Global Leaders Innovation Summit во время London Tech Week в Великобритании, Джулия Лопес, министр по медиа, данным и цифровой инфраструктуре Департамента цифровых технологий, культуры, медиа и спорта (DCMS), рассказала, как можно использовать ПЭТ для решения глобальные вызовы — от пандемии COVID-19 до торговли людьми — путем извлечения информации из конфиденциальных данных, при этом защищая частную жизнь людей и конфиденциальную информацию.

ПЭТ включают в себя развивающиеся технологии, такие как федеративное обучение, которое позволяет обучать модели машинного обучения на высококачественных наборах данных, не покидая безопасных сред. Такие технологии могут способствовать обмену финансовой информацией и совместной аналитике с сохранением конфиденциальности; позволяя выявлять подозрительные типы поведения без ущерба для конфиденциальности отдельных лиц и без необходимости передачи данных между учреждениями или за границу. В рамках конкурсов на призы США и Великобритании новаторы разработают современные решения для федеративного обучения, сохраняющие конфиденциальность, которые помогут устранить препятствия на пути более широкого использования этих технологий.

Исследование Группы разработки финансовых мер борьбы с отмыванием денег (FATF) показало, что неопределенность в отношении регуляторных последствий использования этих технологий является серьезным препятствием для внедрения. В рамках конкурса PETs новаторы смогут взаимодействовать с регулирующими органами, включая Управление финансового надзора Великобритании (FCA) и Управление комиссара по информации (ICO), а также Сеть по борьбе с финансовыми преступлениями США (FinCEN).

О сотрудничестве между Великобританией и США в решении задач премии PETs впервые было объявлено на Саммите за демократию в декабре 2021 года. С тех пор Британский центр этики и инноваций в области данных (CDEI) и Innovate UK сотрудничают с Управлением науки и науки Белого дома. Технологической политики (OSTP), Национального института стандартов и технологий США (NIST) и Национального научного фонда США (NSF), чтобы продвигать призовые задачи.

Этим летом перед новаторами по обе стороны Атлантики встанут новые вызовы. Решения сложных задач будут продемонстрированы на втором Саммите за демократию, который будет созван президентом Джо Байденом в начале 2023 года.

Премия PETs является частью более широкой рабочей программы CDEI, о которой также было объявлено сегодня и которая направлена на обеспечение ответственного доступа к данным. Эта многолетняя программа будет тестировать и масштабировать новые подходы к обеспечению надежного доступа к данным, работая с партнерами из правительства, отрасли и регулирующих органов.

Джулия Лопес, министр по СМИ, данным и цифровой инфраструктуре Департамента цифровых технологий, культуры, СМИ и спорта, сказала : «Я рада, что Великобритания и США работают с регулирующими органами по обе стороны Атлантики, чтобы помочь реализовать потенциал новых технологий повышения конфиденциальности (PET) для борьбы с финансовыми преступлениями. Национальная стратегия Великобритании в отношении данных описывает перспективы ПЭТ в обеспечении надежного доступа к данным. ПЭТ могут способствовать новым формам совместной работы с данными для борьбы с отмыванием денег, защищая при этом частную жизнь граждан».

Доктор Алондра Нельсон, директор Управления научно-технической политики Белого дома, сказала : «Данные можно систематизировать, чтобы сделать жизнь проще и справедливее. Но слишком часто вместо этого мощные инструменты данных используются для углубления неравенства и угрозы нашим основным свободам. Задачи премии PETs направлены на то, чтобы закрыть этот пробел и продемонстрировать, как эти инструменты можно использовать ответственно для раскрытия своего потенциала во многих областях — от улучшения доступа к здравоохранению и преодоления климатического кризиса до повышения финансовой безопасности и прекращения торговли людьми. Эта важная инициатива является выражением нашего общего видения: мир, в котором наши технологии отражают наши ценности и инновации, открывает двери для решений, которые делают нас более безопасными».

Примечания для редакторов:

• Центр этики данных и инноваций (CDEI) возглавляет работу правительства Великобритании по внедрению надежных инноваций, основанных на данных, и является частью Департамента цифровых технологий, культуры, СМИ и спорта (DCMS). Поддержка разработки и внедрения технологий, повышающих конфиденциальность, для обеспечения доступа к конфиденциальным данным является одним из приоритетов, изложенных в Основах политики Миссии 1 Национальной стратегии в отношении данных , опубликованных в ноябре 2021 года.

• CDEI работает с Innovate UK, чтобы решить эту проблему. Innovate UK является частью Британского агентства по исследованиям и инновациям и национальным инновационным агентством Великобритании.

• Управление Белого дома по научно-технической политике (OSTP) стремится максимально использовать преимущества науки и техники для улучшения здоровья, процветания, безопасности, качества окружающей среды и справедливости для всех американцев.

• Национальный научный фонд (NSF) — независимое федеральное агентство, созданное Конгрессом в 1950 г. для содействия прогрессу науки; продвигать национальное здоровье, процветание и благополучие; и обеспечить национальную оборону. NSF — единственное федеральное агентство, чья миссия поддерживает все области фундаментальной науки и инженерных дисциплин, от математики, инженерии и наук о Земле до биологических, поведенческих и компьютерных наук. В первую очередь через свою программу «Безопасное и надежное киберпространство» (SaTC) NSF поддерживает проекты исследований и разработок в области кибербезопасности и конфиденциальности, которые направлены на фундаментальные, а также основанные на использовании исследования, вопросы перехода к практике и потребности страны в развитии образования. .

• Национальный институт стандартов и технологий (NIST) был основан в 1901 году и в настоящее время входит в состав Министерства торговли США. NIST — одна из старейших физических лабораторий страны. От интеллектуальной электросети и электронных медицинских карт до атомных часов, передовых наноматериалов и компьютерных чипов — бесчисленное множество продуктов и услуг так или иначе зависят от технологий, измерений и стандартов, предоставляемых NIST.

• Управление Комиссара по информации (ICO) является независимым регулятором Великобритании в области защиты данных и законодательства о правах на информацию, отстаивая права на информацию в общественных интересах, способствуя открытости государственных органов и конфиденциальности данных для отдельных лиц.

• Сеть по борьбе с финансовыми преступлениями (FinCEN) является бюро Министерства финансов США. Миссия FinCEN заключается в защите финансовой системы от незаконного использования, борьбе с отмыванием денег и обеспечении национальной безопасности путем сбора, анализа и распространения финансовой информации и стратегического использования финансовых органов.

• Управление финансового надзора (FCA) является независимым органом, подотчетным Министерству финансов и парламенту. Узнайте больше о FCA.