Президент США Джо Байден издал новый указ об искусственном интеллекте - первое подобное действие правительства США, требующее проведения новых оценок безопасности, руководства по обеспечению справедливости и гражданских прав, а также исследования влияния искусственного интеллекта на рынок труда.
В то время как правоохранительные органы предупреждают, что они готовы применить существующие законы к злоупотреблениям искусственным интеллектом, а Конгресс стремится узнать больше об этой технологии, чтобы разработать новые законы, указ может оказать более непосредственное влияние. Как и все другие исполнительные распоряжения, он "имеет силу закона", по словам высокопоставленного сотрудника администрации, который общался с журналистами в воскресенье.
Белый дом разделяет ключевые компоненты указа на восемь частей:
1. Создание новых стандартов безопасности для ИИ, в том числе путем требования к некоторым ИИ-компаниям делиться с федеральным правительством результатами испытаний на безопасность, поручения Министерству торговли создать руководство по водяным знакам для ИИ, а также создания программы кибербезопасности, которая позволит создавать ИИ-инструменты, помогающие выявлять недостатки в критическом программном обеспечении.
2. Защита неприкосновенности частной жизни потребителей, в том числе путем создания руководства, которое агентства смогут использовать для оценки методов защиты частной жизни, используемых в ИИ.
3. Обеспечение равенства и соблюдения гражданских прав путем разработки рекомендаций для арендодателей и федеральных подрядчиков, которые помогут избежать дискриминации с помощью алгоритмов ИИ, а также создания лучших практик по надлежащей роли ИИ в системе правосудия, включая его использование при вынесении приговоров, оценке рисков и прогнозировании преступлений.
4. Защита потребителей в целом путем поручения Министерству здравоохранения и социальных служб создать программу по оценке потенциально вредных методов медицинского обслуживания, связанных с ИИ, а также путем создания ресурсов по ответственному использованию инструментов ИИ преподавателями.
5. Поддержка работников путем подготовки отчета о потенциальных последствиях ИИ для рынка труда и изучения способов, которыми федеральное правительство может поддержать работников, пострадавших от сбоев на рынке труда.
6. Содействие инновациям и конкуренции путем расширения грантов на исследования в области ИИ в таких областях, как изменение климата, и модернизации критериев пребывания в США высококвалифицированных работников-иммигрантов, обладающих ключевыми знаниями.
7. Работа с международными партнерами по внедрению стандартов ИИ во всем мире.
8. Разработка руководства по использованию и закупкам ИИ федеральными агентствами и ускорение найма государством работников, обладающих необходимыми знаниями в этой области.
Приказ представляет собой "самый решительный набор действий, который когда-либо предпринимало правительство любой страны мира в области безопасности, защиты и доверия к ИИ", - говорится в заявлении заместителя руководителя аппарата Белого дома Брюса Рида.
Он основывается на добровольных обязательствах, которые Белый дом ранее взял на себя от ведущих компаний, занимающихся разработкой ИИ, и представляет собой первое крупное обязательное правительственное действие в отношении этой технологии. Кроме того, это решение было принято в преддверии саммита по безопасности ИИ, организованного Великобританией.
Высокопоставленный представитель администрации отметил, что 15 крупнейших американских технологических компаний согласились выполнить добровольные обязательства по обеспечению безопасности ИИ, но сказал, что этого "недостаточно" и что принятый в понедельник указ - это шаг к конкретному регулированию развития технологии.
"Президент несколько месяцев назад поручил своей команде задействовать все рычаги, и именно это и делает данное распоряжение: задействовать мощь федерального правительства в самых разных областях, чтобы управлять рисками ИИ и использовать его преимущества", - сказал чиновник.
Выступая в понедельник в Белом доме, Байден сообщил, что во вторник он встретится с лидером большинства в Сенате Чаком Шумером (округ Нью-Йорк) и двухпартийной группой, созданной Шумером. По его словам, эта встреча должна "подчеркнуть необходимость действий Конгресса".
"Этот указ представляет собой смелые действия, но нам все равно необходимо, чтобы Конгресс принял меры", - сказал Байден.
Постановление Байдена требует, чтобы крупные компании делились с правительством США результатами испытаний на безопасность до официального выпуска систем искусственного интеллекта. Он также отдает приоритет разработке Национальным институтом стандартов и технологий стандартов для "повторного тестирования" ИИ, или стресс-тестирования защиты и потенциальных проблем в системах. Министерство торговли разработает стандарты для нанесения водяных знаков на контент, создаваемый ИИ.
В приказе также рассматривается вопрос об обучающих данных для крупных систем и лучших нейросетей ИИ и говорится о необходимости оценки того, как ведомства собирают и используют коммерческие данные, включая данные, приобретенные у брокеров данных, особенно если эти данные содержат персональные идентификаторы.
Администрация Байдена также предпринимает шаги по укреплению кадрового состава ИИ. По словам высокопоставленного представителя администрации, начиная с понедельника работники, обладающие знаниями в области ИИ, смогут найти соответствующие вакансии в федеральном правительстве на сайте AI.gov.
В воскресенье представитель администрации заявил, что "наиболее агрессивные" сроки выполнения некоторых аспектов приказа, касающихся безопасности, предполагают 90-дневный срок, а по некоторым другим аспектам этот срок может приблизиться к году.
В развитие ранее принятых мер в области ИИ
Принятый в понедельник указ следует за рядом шагов, предпринятых Белым домом в последние месяцы для создания площадок для обсуждения темпов развития ИИ, а также предлагаемых руководящих принципов.
С момента вирусного распространения ChatGPT в ноябре 2022 г., который за два месяца стал самым быстрорастущим потребительским приложением в истории, согласно исследованию UBS, широкое распространение генеративного ИИ уже вызвало обеспокоенность общественности, юридические баталии и вопросы законодателей.
Например, через несколько дней после того, как компания Microsoft включила ChatGPT в свою поисковую систему Bing, она подверглась критике за токсичные высказывания, а популярные генераторы изображений на основе ИИ подверглись критике за расовую предвзятость и распространение стереотипов.
Указ Байдена предписывает Министерству юстиции, а также другим федеральным ведомствам разработать стандарты для "расследования и преследования нарушений гражданских прав, связанных с искусственным интеллектом", - заявил представитель администрации в воскресенье в ходе телефонного разговора с журналистами.
"В соответствии с указом президента, арендодателям, федеральным программам льгот и федеральным подрядчикам должны быть предоставлены четкие рекомендации, чтобы алгоритмы ИИ не использовались для усиления дискриминации", - добавил чиновник.
В августе Белый дом бросил вызов тысячам хакеров и исследователей в области безопасности, чтобы они смогли перехитрить лучшие генеративные модели ИИ от лидеров в этой области, включая OpenAI, Google, Microsoft, Meta и Nvidia. Соревнования проходили в рамках Def Con, крупнейшей в мире хакерской конференции.
"Правильно называть это первой в истории публичной оценкой нескольких LLM", - заявил тогда CNBC представитель Управления по научно-технической политике Белого дома.
Конкурс последовал за июльской встречей представителей Белого дома с семью ведущими компаниями в области ИИ, включая Alphabet, Microsoft, OpenAI, Amazon, Microsoft, OpenAI, Amazon, Anthropic, Inflection и Meta.
По итогам встречи все компании приняли ряд добровольных обязательств по разработке ИИ, включая предоставление независимым экспертам возможности оценивать инструменты перед публичной демонстрацией, изучение общественных рисков, связанных с ИИ, и предоставление третьим лицам возможности тестировать системы на уязвимость, как это было сделано в рамках конкурса Def Con.
Еще советуем:
