Первый международный отчет по безопасности ИИ, который будет представлен на обсуждениях на саммите AI Action Summit
Первый независимый международный отчет по безопасности ИИ, который станет всемирным справочником по безопасности ИИ в преддверии саммита France AI Action Summit.

- Первый независимый международный отчет по безопасности ИИ , который станет всемирным руководством по безопасности ИИ в преддверии саммита по действиям в области ИИ во Франции
- Вдохновленная докладом МГЭИК ООН, публикация устанавливает новый стандарт научной строгости при оценке безопасности ИИ.
- Объединяет мнения 100 ведущих мировых экспертов в области искусственного интеллекта, представленных 30 странами, включая Францию, Китай, США и Великобританию, а также ООН, ЕС и ОЭСР.
В преддверии Саммита действий по искусственному интеллекту , который пройдет во Франции в следующем месяце, сегодня опубликован Независимый международный отчет по безопасности искусственного интеллекта , в котором излагается первое всеобъемлющее общее научное понимание современных систем искусственного интеллекта и связанных с ними рисков.
Под руководством Йошуа Бенджио — лауреата премии Тьюринга, академика ИИ и самого цитируемого в мире ученого в области информатики — отчет объединяет идеи 100 независимых международных экспертов. Отчет, представленный на Саммите по безопасности ИИ в ноябре 2023 года, подготовлен по заказу более 30 стран, включая Францию, Китай и США, при оперативной поддержке Департамента по науке, инновациям и технологиям.
В то время как политики по всему миру сталкиваются с быстрым и непредсказуемым прогрессом в области искусственного интеллекта , сегодняшний отчет способствует преодолению разрыва, предлагая научное понимание возникающих рисков для принятия решений.
В отчете также подчеркивается, насколько быстро развивались технологии за последние годы и месяцы, в том числе то, как системы ИИ все чаще способны действовать как агенты ИИ , автономно планируя и выполняя сложные задачи.
Его публикация направлена на устранение пробелов путем создания научной базы доказательств, которая поможет политикам повысить безопасность ИИ , в то время как все последствия внедрения современных систем ИИ еще предстоит изучить.
Председатель отчета Йошуа Бенжио, профессор Монреальского университета и научный директор Института искусственного интеллекта Mila - Quebec , сказал:
Возможности ИИ общего назначения стремительно возросли за последние годы и месяцы. Хотя это несет в себе большой потенциал для общества, ИИ также несет в себе значительные риски, которые должны тщательно контролироваться правительствами по всему миру.
Целью настоящего отчета независимых экспертов является содействие конструктивному и основанному на фактических данных обсуждению этих рисков, а также предоставление политикам во всем мире общей основы для понимания возможностей универсального ИИ , рисков и возможных мер по их смягчению.
Ключевые области, определенные для дальнейшего исследования, включают в себя изучение того, насколько быстро будут развиваться возможности, как работают внутренние механизмы универсальных моделей ИИ и как их можно спроектировать так, чтобы они работали надежно.
Хотя все еще есть много проблем в снижении рисков ИИ общего назначения , отчет выделяет перспективные области для будущих исследований и приходит к выводу, что прогресс может быть достигнут. В отчете подчеркивается широко распространенное согласие в том, что улучшение нашего понимания того, как работает ИИ, должно быть главным приоритетом, поскольку международные правительства и компании ИИ готовятся собраться на Саммите действий ИИ .
В конечном счете, в отчете подчеркивается, что, хотя возможности ИИ могут развиваться с разной скоростью, их развитие и потенциальные риски не являются предрешенными. Отчет завершается утверждением, что результаты зависят от выбора, который делают политики как сегодня, так и в будущем.
Государственный секретарь по науке, инновациям и технологиям Питер Кайл сказал:
Преобразовательный потенциал ИИ очевиден, поэтому мы поместили его в центр Плана изменений нашего правительства. Он поможет нам дать толчок экономическому росту, преобразовать государственные услуги и повысить уровень жизни трудящихся по всей стране, но я по-прежнему ясно вижу, что безопасность должна быть заложена с самого начала.
Великобритания уже находится на переднем крае создания глобального консенсуса, необходимого для ответственного ИИ , и этот отчет сделает шаг вперед в ходе подготовки к Саммиту действий по ИИ . Он поддержит лиц, принимающих решения, научными доказательствами, которые им необходимы для использования возможностей ИИ , что является задачей, которую мы уже возглавляем, заставляя технологию работать, чтобы создавать больше рабочих мест, больше денег в карманах людей и преобразовывать государственные услуги.
Министр-делегат Франции по вопросам искусственного интеллекта и цифровых технологий Клара Шаппаз заявила:
Искусственный интеллект является центральной темой нашего времени, а его безопасность является важнейшей основой для построения доверия и содействия принятию. Научные исследования должны оставаться фундаментальной опорой, направляющей эти усилия. Я приветствую работу Йошуа Бенджио и международной команды, которые подготовили этот отчет, работу, которая должна быть увековечена в долгосрочной перспективе в общих интересах.
Эта первая всеобъемлющая научная оценка обеспечивает базу данных, необходимую для того, чтобы общества и правительства ответственно формировали будущее направление ИИ. Эти идеи будут служить основой для важных дискуссий на предстоящем саммите действий ИИ в Париже.
Примечания для редакторов
Правительство Великобритании продолжит выполнять функции Секретариата для доклада до тех пор, пока не будет согласовано подходящее долгосрочное международное местонахождение, а профессор Йошуа Бенджио продолжит исполнять обязанности председателя в 2025 году. Это будет зависеть от текущих глобальных диалогов по управлению ИИ , в том числе в рамках Глобального цифрового договора ООН, Сети институтов безопасности ИИ и других форумов, а также от текущих консультаций с заинтересованными сторонами.
Запросы СМИ DSIT
Электронная почта [email protected]
С понедельника по пятницу с 8:30 до 18:00 020 7215 300