• Центральное управление цифровых данных и данных Кабинета министров разработало стандарт алгоритмической прозрачности для государственных ведомств и органов государственного сектора совместно с Центром этики данных и инноваций.
• Стандарт будет апробирован несколькими организациями государственного сектора и доработан на основе отзывов.
• Этот шаг делает Великобританию одной из первых стран в мире, которая разработала национальный стандарт алгоритмической прозрачности, укрепляя позиции Великобритании как мирового лидера в области управления ИИ.

Правительство Великобритании ввело в действие один из первых в мире национальных стандартов алгоритмической прозрачности .

Этот шаг выполняет обязательства, взятые в Национальной стратегии ИИ и Национальной стратегии данных , и укрепляет позиции Великобритании как глобального лидера в области ИИ, заслуживающего доверия.

В своем знаменательном обзоре предвзятости в алгоритмическом принятии решений Центр этики данных и инноваций (CDEI) рекомендовал правительству Великобритании наложить обязательное обязательство прозрачности на организации государственного сектора, использующие алгоритмы для поддержки важных решений, влияющих на людей.

Этот призыв к прозрачности вокруг использования систем искусственного интеллекта был решительно поддерживает внутри страны и на международном уровне , в том числе организаций гражданского общества , такие как Алан Тьюринг институт и Ад Лавлейс институт , а также международные организации , такие как ОЭСР и Партнерство открытого правительства . Эти известные организации выступают за большую прозрачность, чтобы помочь управлять рисками, связанными с алгоритмическим принятием решений, провести необходимое исследование роли алгоритмов в процессах принятия решений и помочь укрепить общественное доверие.

Центральный офис цифровых данных и данных (CDDO) Кабинета министров тесно сотрудничал с CDEI над разработкой стандарта. Он также проконсультировался с экспертами из гражданского общества и академических кругов, а также с общественностью. Стандарт состоит из двух уровней. Первый включает краткое описание алгоритмического инструмента, включая то, как и почему он используется, а второй включает более подробную информацию о том, как работает инструмент, наборы данных, которые использовались для обучения модели, и уровень человеческого надзор. Стандарт поможет командам быть полностью прозрачными в отношении того, как алгоритмические инструменты используются для поддержки решений, особенно в тех случаях, когда они могут иметь юридические или экономические последствия для отдельных лиц.

В ближайшие месяцы стандарт будет апробирован несколькими правительственными ведомствами и органами государственного сектора. После пилотного этапа CDDO рассмотрит стандарт на основе собранных отзывов и запросит официальное одобрение Управления по стандартизации данных в 2022 году.

Активно публикуя эту информацию, правительство Великобритании дает экспертам и общественности возможность взаимодействовать с данными и проводить внешнюю проверку. Большая прозрачность также будет способствовать появлению заслуживающих доверия инноваций, обеспечивая лучшую видимость использования алгоритмов в государственном секторе и позволяя смягчить непредвиденные последствия на раннем этапе.

Публикация стандарта последовала после того, как правительство Великобритании запросило мнения по предложению о введении прозрачной отчетности об использовании алгоритмов в процессе принятия решений в государственном секторе в рамках своих консультаций о будущем режима защиты данных в Великобритании. Правительство Великобритании в настоящее время анализирует полученные отзывы.

Лорд Агнью, государственный министр при кабинете министров, сказал:

Организации государственного сектора могут использовать алгоритмы, чтобы помочь им принимать более справедливые решения, повышать эффективность государственных услуг и снижать затраты, связанные с доставкой. Однако они должны использоваться в процессах принятия решений таким образом, чтобы управлять рисками, поддерживать самые высокие стандарты прозрачности и подотчетности и создавать четкие доказательства воздействия. Я горжусь тем, что сегодня мы стали одной из первых стран в мире, опубликовавших межправительственный стандарт алгоритмической прозрачности, выполняя обязательства, взятые в Национальной стратегии обработки данных и Национальной стратегии искусственного интеллекта, и одновременно являясь примером для организаций во всем мире. СОЕДИНЕННОЕ КОРОЛЕВСТВО.

Адриан Веллер, программный директор по искусственному интеллекту в Институте Алана Тьюринга и член Консультативного совета Центра этики данных и инноваций, сказал:

Организации все чаще обращаются к алгоритмам для автоматизации или поддержки принятия решений. У нас есть возможность задействовать правильные механизмы управления по мере роста принятия. Вот почему я рад, что правительство Великобритании опубликовало один из первых в мире национальных стандартов алгоритмической прозрачности. Это новаторский шаг правительства Великобритании, который не только поможет укрепить соответствующее доверие к использованию алгоритмического принятия решений в государственном секторе, но также послужит рычагом для повышения стандартов прозрачности в частном секторе.

Имоджен Паркер, заместитель директора (политика) Института Ады Лавлейс, сказала:

Значимая прозрачность в использовании алгоритмических инструментов в государственном секторе является неотъемлемой частью надежного цифрового государственного сектора. Институт Ады Лавлейс призвал к созданию реестра прозрачности алгоритмов государственного сектора, чтобы позволить общественности и гражданскому обществу, действующему от их имени, знать, какие системы используются, где и почему. Инвестиции правительства Великобритании в разработку этого стандарта прозрачности являются важным шагом на пути к достижению этой цели и ценным вкладом в более широкий разговор об алгоритмической подотчетности в государственном секторе. Мы с нетерпением ждем испытаний, тестов и итераций, за которыми правительственные ведомства и органы государственного сектора опубликуют завершенные стандарты для поддержки моделирования и развития передовой практики.

Табита Голдстауб, председатель Совета по искусственному интеллекту при правительстве Великобритании, сказала:

В Дорожной карте AI Совета мы подчеркнули необходимость новых механизмов прозрачности для обеспечения подотчетности и общественного контроля над алгоритмическими процессами принятия решений; и призвал правительство Великобритании рассмотреть анализ и рекомендации Центра этики данных и инноваций и Комитета по стандартам в общественной жизни. Я очень рад, что правительство Великобритании быстро отреагирует на это; выполнение обязательств, взятых в Национальной стратегии ИИ, и укрепление нашей позиции мирового лидера в области ИИ, заслуживающего доверия.

Сэр Патрик Валланс, главный научный советник правительства Великобритании и советник по национальным технологиям, сказал:

Нам нужны демократические стандарты и хорошее управление для новых технологий, таких как искусственный интеллект, которые улучшат нашу работу и принесут пользу обществу. Запуск этого нового стандарта демонстрирует приверженность правительства делу укрепления общественного доверия и понимания применения этих технологий, в том числе исследования повышения прозрачности в использовании алгоритмов в государственном секторе.