Первый независимый международный отчет по безопасности ИИ, который станет всемирным справочником по безопасности ИИ в преддверии саммита



| 31 Января 2025, 7:58

пресс-релиз

Первый международный отчет по безопасности ИИ, который будет представлен на обсуждениях на саммите AI Action Summit

Первый независимый международный отчет по безопасности ИИ, который станет всемирным справочником по безопасности ИИ в преддверии саммита France AI Action Summit.

  • Первый независимый международный отчет по безопасности ИИ , который станет всемирным руководством по безопасности ИИ в преддверии саммита по действиям в области ИИ во Франции
  • Вдохновленная докладом МГЭИК ООН, публикация устанавливает новый стандарт научной строгости при оценке безопасности ИИ.
  • Объединяет мнения 100 ведущих мировых экспертов в области искусственного интеллекта, представленных 30 странами, включая Францию, Китай, США и Великобританию, а также ООН, ЕС и ОЭСР.

В преддверии Саммита действий по искусственному интеллекту , который пройдет во Франции в следующем месяце, сегодня опубликован Независимый международный отчет по безопасности искусственного интеллекта , в котором излагается первое всеобъемлющее общее научное понимание современных систем искусственного интеллекта и связанных с ними рисков.  

Под руководством Йошуа Бенджио — лауреата премии Тьюринга, академика ИИ и самого цитируемого в мире ученого в области информатики — отчет объединяет идеи 100 независимых международных экспертов. Отчет, представленный на Саммите по безопасности ИИ в ноябре 2023 года, подготовлен по заказу более 30 стран, включая Францию, Китай и США, при оперативной поддержке Департамента по науке, инновациям и технологиям.  

В то время как политики по всему миру сталкиваются с быстрым и непредсказуемым прогрессом в области искусственного интеллекта , сегодняшний отчет способствует преодолению разрыва, предлагая научное понимание возникающих рисков для принятия решений.  

В отчете также подчеркивается, насколько быстро развивались технологии за последние годы и месяцы, в том числе то, как системы ИИ все чаще способны действовать как агенты ИИ , автономно планируя и выполняя сложные задачи.  

Его публикация направлена на устранение пробелов путем создания научной базы доказательств, которая поможет политикам повысить безопасность ИИ , в то время как все последствия внедрения современных систем ИИ еще предстоит изучить. 

Председатель отчета Йошуа Бенжио, профессор Монреальского университета и научный директор Института искусственного интеллекта Mila - Quebec , сказал:  

Возможности ИИ общего назначения стремительно возросли за последние годы и месяцы. Хотя это несет в себе большой потенциал для общества, ИИ также несет в себе значительные риски, которые должны тщательно контролироваться правительствами по всему миру.  

Целью настоящего отчета независимых экспертов является содействие конструктивному и основанному на фактических данных обсуждению этих рисков, а также предоставление политикам во всем мире общей основы для понимания возможностей универсального ИИ , рисков и возможных мер по их смягчению.

Ключевые области, определенные для дальнейшего исследования, включают в себя изучение того, насколько быстро будут развиваться возможности, как работают внутренние механизмы универсальных моделей ИИ и как их можно спроектировать так, чтобы они работали надежно.  

Хотя все еще есть много проблем в снижении рисков ИИ общего назначения , отчет выделяет перспективные области для будущих исследований и приходит к выводу, что прогресс может быть достигнут. В отчете подчеркивается широко распространенное согласие в том, что улучшение нашего понимания того, как работает ИИ, должно быть главным приоритетом, поскольку международные правительства и компании ИИ готовятся собраться на Саммите действий ИИ 

В конечном счете, в отчете подчеркивается, что, хотя возможности ИИ могут развиваться с разной скоростью, их развитие и потенциальные риски не являются предрешенными. Отчет завершается утверждением, что результаты зависят от выбора, который делают политики как сегодня, так и в будущем. 

Государственный секретарь по науке, инновациям и технологиям Питер Кайл сказал: 

Преобразовательный потенциал ИИ очевиден, поэтому мы поместили его в центр Плана изменений нашего правительства. Он поможет нам дать толчок экономическому росту, преобразовать государственные услуги и повысить уровень жизни трудящихся по всей стране, но я по-прежнему ясно вижу, что безопасность должна быть заложена с самого начала. 

Великобритания уже находится на переднем крае создания глобального консенсуса, необходимого для ответственного ИИ , и этот отчет сделает шаг вперед в ходе подготовки к Саммиту действий по ИИ . Он поддержит лиц, принимающих решения, научными доказательствами, которые им необходимы для использования возможностей ИИ , что является задачей, которую мы уже возглавляем, заставляя технологию работать, чтобы создавать больше рабочих мест, больше денег в карманах людей и преобразовывать государственные услуги.

Министр-делегат Франции по вопросам искусственного интеллекта и цифровых технологий Клара Шаппаз заявила: 

Искусственный интеллект является центральной темой нашего времени, а его безопасность является важнейшей основой для построения доверия и содействия принятию. Научные исследования должны оставаться фундаментальной опорой, направляющей эти усилия. Я приветствую работу Йошуа Бенджио и международной команды, которые подготовили этот отчет, работу, которая должна быть увековечена в долгосрочной перспективе в общих интересах. 

Эта первая всеобъемлющая научная оценка обеспечивает базу данных, необходимую для того, чтобы общества и правительства ответственно формировали будущее направление ИИ. Эти идеи будут служить основой для важных дискуссий на предстоящем саммите действий  ИИ в Париже.

Примечания для редакторов

Правительство Великобритании продолжит выполнять функции Секретариата для доклада до тех пор, пока не будет согласовано подходящее долгосрочное международное местонахождение, а профессор Йошуа Бенджио продолжит исполнять обязанности председателя в 2025 году. Это будет зависеть от текущих глобальных диалогов по управлению ИИ , в том числе в рамках Глобального цифрового договора ООН, Сети институтов безопасности ИИ и других форумов, а также от текущих консультаций с заинтересованными сторонами.

Запросы СМИ DSIT

Электронная почта [email protected]

С понедельника по пятницу с 8:30 до 18:00 020 7215 300

Обновления на этой странице

Опубликовано 29 января 2025 г.

Эптон Алекс
Москва 88888888888


Визы в UK на 10 лет! Работаем с британскими визами 15 лет.

Подать заявку

Бесплатные консультации https://t.me/wikivisa_chat

Закрыть