Что предусматривает будущее регулирование искусственного интеллекта 17

Искусственный интеллект — неотъемлемая часть нашей жизни и культуры

Идею об искусственно созданных мыслящих существах, способных заменить человека, можно встретить еще в доисторические времена. Также было несколько попыток создать такие существа. Правда, лишь в тридцатые годы прошлого века они приобрели практические формы (алгоритмы, созданные Аланом Тьюрингом для расшифровки кодов «Энигмы»). Попытки создания научно искусственных систем начались позже — с создания первых роботов и компьютеров.

В 1980-х годах в производстве начали использоваться некоторые технологии искусственного интеллекта (ИИ). В настоящее время они стали обычной практикой во многих сферах и составляют основу интернет-инструментов, роботов. ИИ — это не только способность понимать то, что истинно, и правильно мыслить, его основа также находится в обществе и человеческой культуре. Эти технологии уже полвека участвуют в жизни общества и каждого отдельного человека, но массовый интерес и первый практический опыт использования ИИ в Латвии начался только в прошлом году, с появлением бесплатного приложения ChatGPT. Причем произошло это очень быстро.

Европейский парламент (ЕП) опубликовал несколько оценок аналитических центров ЕП о влиянии ИИ на европейское развитие. Проверка на основе данных, противодействие дезинформации и кибератакам, а также обеспечение доступа к качественной информации могут укрепить демократию, способствовать многообразию и открытости. Ожидается, что объем создаваемых в мире данных в 2025 году увеличится в пять раз — до 175 зеттабайт.

К 2035 году производительность труда, связанная с использованием ИИ, может вырасти на 11–17%. В странах Организации экономического сотрудничества и развития (ОЭСР) 33% рабочих мест могут существенно измениться. В то же время необходимо снизить риски и даже угрозы, которые уже могут быть вызваны некомпетентным или недобросовестным использованием ИИ.

Использование ИИ имеет множество этических и даже юридических проблем. К ним, например, обращался в своих произведениях писатель, фантаст Айзек Азимов, который уже сформулировал основные законы робототехники в книге «Я, Робот» в 1950 году:

• Робот не должен причинять вред человеку или причинять вред человеку своим бездействием.

• Робот должен подчиняться командам, отдаваемым человеком, если это не противоречит первому закону.

• Робот должен защищать свое существование, если это не противоречит первому и второму законам.

• 0. (Нулевой закон, дополняющий предыдущие три закона.) Робот не должен причинять вред человечеству или допускать вред человечеству своим бездействием.

• Соответственно, первый закон был дополнен словами «[..], если он не противоречит нулевому закону», второй закон – «[..], если он не противоречит нулевому и первому закону» и т.д. и т. д.

Позже развернулись обширные дискуссии о влиянии искусственных систем на человечество, которые переросли в вопрос регулирования ИИ.

Евросоюз на пути к правовому регулированию искусственного интеллекта

Европейский Союз (ЕС) серьезно занялся политическими, стратегическими и правовыми вопросами развития ИИ, т.е. видеть для развития законодательства.

В феврале 2020 года Европейская комиссия (ЕК) опубликовала «Белую книгу по искусственному интеллекту». Этот программный документ содержит предложения по действиям ЕС в области искусственного интеллекта. В документе подчеркивается, что ИИ — это стратегическая технология, которая предлагает множество преимуществ гражданам, бизнесу и обществу, но при условии, что она антропоцентрична, этична и устойчива, а также уважает фундаментальные права и фундаментальные ценности.

Было обнаружено, что ИИ обеспечивает значительный прирост эффективности и производительности, который может повысить конкурентоспособность европейской промышленности и повысить благосостояние.

Это может помочь решить насущные проблемы общества, включая борьбу с изменением климата и деградацией окружающей среды, проблемы, связанные с устойчивым развитием и демографическими изменениями, защиту демократических институтов и борьбу с преступностью. Европейский подход к ИИ направлен на повышение инновационного потенциала Европы в области ИИ, одновременно поддерживая разработку и внедрение этичного и надежного ИИ в экономике ЕС.

ИИ должен работать на благо людей и на общее благо

В 2021 году ЕК подготовила предложение о «Регламенте Европейского парламента и Совета, устанавливающем гармонизированные правила в области искусственного интеллекта (Закон об искусственном интеллекте) и вносящем поправки в некоторые законодательные акты Союза», предусматривающем единые правила в отношении искусственного интеллекта.

Этот документ является частью более широкого набора законодательных актов в области ИИ, который также включает обновленный Скоординированный план по ИИ. Предполагается, что они будут гарантировать безопасность и основные права людей и компаний в области ИИ, укреплять его внедрение, инвестиции и инновации на всей территории ЕС.

ИИ, разработанный и используемый в Европе, должен будет полностью соответствовать правам и ценностям ЕС, включая принцип, согласно которому ИИ контролируется человеком.

Целью Регламента является содействие использованию ориентированного на человека и надежного ИИ и обеспечение высокого уровня здоровья, безопасности, основных прав, демократии и верховенства закона, а также защиты окружающей среды от вредного воздействия систем ИИ. , одновременно поддерживая инновации и улучшая функционирование внутреннего рынка. Регламент устанавливает единую правовую основу, в частности, для разработки, размещения на рынке, ввода в эксплуатацию и использования ИИ в соответствии с ценностями ЕС, а также обеспечивает свободное перемещение товаров и услуг ИИ через границы, предотвращая тем самым ограничения, налагаемые Государства-члены ЕС, если это прямо не разрешено.

Ожидаемые запреты и ограничения на использование ИИ

Некоторые системы ИИ также могут влиять на демократию, верховенство закона и окружающую среду, поэтому этим проблемам уделяется особое внимание в критически важных отраслях и сценариях использования.

Системы искусственного интеллекта, представляющие неприемлемый риск для безопасности человека, запрещены. Несанкционированное использование ИИ – это:

• биометрические системы удаленной идентификации в общественных местах;

• системы, выполняющие биометрическую категоризацию по чувствительным характеристикам человека (пол, раса, этническая принадлежность, гражданство, религия, политическая ориентация);

• системы прогнозирования преступности, основанные на профилировании, местонахождении или прошлом преступном поведении;

• системы распознавания эмоций в правоохранительных органах, пограничном управлении, на рабочих местах и в образовательных учреждениях;

• автоматизированный сбор изображений лиц (так называемого рисунка) в сети Интернет или из видеоматериала, полученного с помощью системы видеонаблюдения, с целью создания баз данных распознавания лиц.

• К приложениям высокого риска также относятся те, которые существенно угрожают здоровью, безопасности, основным правам человека или окружающей среде, включая системы искусственного интеллекта, используемые для влияния на избирателей и результаты выборов или на которых основаны системы рекомендаций, используемые основными платформами социальных сетей.

В настоящее время системы искусственного интеллекта общего назначения быстро развиваются. Прежде чем разместить их на рынке ЕС, разработчикам необходимо будет оценить и снизить потенциальные риски для здоровья, безопасности, основных прав, демократии и верховенства закона. Системы генеративного ИИ (например, «ChatGPT») будут обязаны соблюдать требования к раскрытию информации и внедрять меры безопасности для предотвращения создания незаконного контента, а также делать общедоступной подробную информацию о данных, защищенных авторским правом, которые используются для обучения систем генеративного ИИ.

Запреты и ограничения – не единственное, о чем говорится в Законе. В целях продвижения инноваций в области искусственного интеллекта и поддержки малых и средних предприятий закон не будет распространяться на исследования и компоненты искусственного интеллекта под лицензией с открытым исходным кодом.

Также следует расширить право граждан на юридическую защиту, а именно на подачу жалоб на системы ИИ и получение объяснений по поводу решений, принятых с помощью систем ИИ высокого риска, которые существенно повлияли на их фундаментальные права.

Нет четких вопросов по применению

15 сентября состоялась дискуссия «Как будет регулировать искусственный интеллект в Европе?», организованная офисом Европарламента в Латвии.

Заместитель госсекретаря по цифровой трансформации Министерства охраны окружающей среды и регионального развития (VARAM) Гатис Озолс сообщил, что принятие и применение закона об ИИ произойдет не так скоро. Обсуждения могут продолжаться до конца созыва Европарламента. Кроме того, следует ожидать, что реализация Закона об ИИ займет 36 месяцев.

Член Европарламента Иварс Иябс подробно рассказал о работе над законом о ИИ и основных моментах, которые в него следует включить. Работа по регулированию ИИ стартовала уже в 2021 году. Эти вопросы стали особенно актуальными после «взрыва» ИИ в конце 2022 года («ChatGPT» и т. д.).

«Регулирование основано на оценке рисков. Высокоманипулятивный ИИ, такой как мониторинг биометрических данных для социального контроля, разделение людей на группы на основе этих характеристик, постоянный мониторинг поведения, разделяющий людей на хороших и плохих, прогнозирующая полицейская деятельность, фиксация эмоций полностью запрещены. Использование ИИ в транспорте, медицине, игрушках, инфраструктуре представляет высокий риск. Есть средние риски для рекомендаций МИ, например, подбор персонала (чтобы он не был дискриминационным), прием в учебные заведения и аттестация в образовании, оценка льгот, кредитоспособности, риски для здоровья. Важно, чтобы человек контролировал эти процессы и мог сказать, почему принимается то или иное решение», - пояснил депутат Европарламента.

С другой стороны, научно-аналитический советник Департамента по гражданским делам Верховного суда и преподаватель Рижского юридического факультета Виктория Сонеца в дискуссии обратила внимание на проблемы применения будущего закона об ИИ.

«Неясно, как единый регулирующий и надзорный орган сможет контролировать все сферы. Норма, согласно которой компании сами могут определять риски, неоднозначна. Должно быть общее определение рисков и конкретных условий, которые следует применять. В настоящее время регулирование недостаточно охватывает права частных лиц и возможности их защиты, в том числе в суде. Правоохранительные органы должны понимать риски для прав человека и способы их защиты. Часто люди не рассматривают использование ИИ как нарушение своих прав. Алгоритм может быть очень элегантным, и человек не будет чувствовать себя подвергнутым дискриминации. Чтобы защитить свои права, каждый должен дать свое согласие на использование данных. В таком случае необходимо понимать, где, что и как это можно использовать, а также возможность это запретить».

Эрнест Сталс, соучредитель латвийской стартап-организации TechHub Riga: «Мы всегда начинаем использовать новую технологию так же, как и старую. Это было с кино, с Интернетом. Теперь то же самое и с «ChatGPT». Важно пользоваться им с правилом «не бежать впереди паровоза». Парадигмы изменятся, и очень важно не искоренить огромную ценность ИИ. Риски также являются человеческим фактором при принятии решений. Если человек останется в банке при выдаче кредитов, у него всегда будут свои «баги в голове», но ИИ будет оценивать всех одинаково. Главное понять, как он это делает. Раньше мы создавали и могли понимать алгоритмы, сейчас есть только ввод и вывод, а что между ними, мы не знаем. Регулирование по-прежнему формируется «старым мышлением», потому что мы не знаем, куда движется все, что связано с ИИ. Не бойтесь, что ИИ заменит людей. Вам придется научиться задавать ИИ вопросы, давать задания, тогда он поможет. Люди, использующие ИИ, заменят тех, кто этого не делает».