Погружаясь в правовое поле

Генеральная ассамблея ООН единогласно приняла первую всемирную резолюцию по искусственному интеллекту, призывающую страны планеты защищать права человека и персональные данные, а также неусыпно проверять ИИ-разработки на предмет потенциально создаваемых ими угроз для человечества.

Посол США в ООН Линда Томас-Гринфилд заявила: «Генеральная ассамблея высказалась в один голос, и вместе мы избрали путь контроля над искусственным интеллектом — вместо того, чтобы позволить ему контролировать нас». Впрочем, резолюция, как отмечают обозреватели Reuters, достаточно беззуба и в целом ограничивается указаниями на то, что «непродуманные либо злонамеренные программный дизайн, разработка, развёртывание и использование ИИ-систем порождают значительные риски для прав человека и фундаментальных свобод».

Многие страны — и их объединения, в особенности ЕС, — уже разрабатывают куда более жёсткие и предметные меры, призванные унять вольницу разработчиков ИИ, направив их активность в русло того, что называется secure by design, — создания систем, изначально ориентированных на не причинение какого бы то ни было вреда. Так, законодательный AI Act, принятый Европейским парламентом, впервые в мировой юридической практике подводит легальную базу под самый широкий спектр применения ИИ — настолько широкий, что эксперты говорят об этом акте как о «первом в мире всеобъемлющем законе об ИИ». Он кодифицирует систему управления ИИ, основанную на оценке рисков; вводит практику применения различных правил и требований — в зависимости от уровня риска, связанного с конкретным вариантом использования той или иной модели в тех или иных условиях. Отдельные положения AI Act планируется внедрять постепенно — с тем, чтобы к середине 2027 г. закон полностью вступил в силу на всей территории ЕС. При этом касаться он будет, разумеется, не одной только Европы: все глобальные ИТ-игроки, для которых рынок Старого Света имеет значение, в меньшей или большей степени примутся согласовывать свои действия с этим актом — как, скажем, Apple, приведшая недавно iPadOS 17.4 в соответствие с актуальными юридическими реалиями Евросоюза.

Как указал депутат Европарламента Драгош Тудораше в ходе обсуждения законопроекта, «закон об ИИ подтолкнёт будущее его развитие в направлении к человеку — к ситуации, при которой люди контролируют технологии, помогающие нам, в свою очередь, делать новые открытия, обеспечивать экономический рост, двигать социальный прогресс и раскрывать человеческий потенциал». В частности, ряд потенциальных вариантов использования ИИ, такие как вычисление «социального рейтинга» или манипуляции предпочтениями людей на подсознательном уровне, объявлены в рамках AI Act «неприемлемым риском» и полностью запрещены. Определены также «высокорисковые» сферы приложения ИИ — к ним относятся образование, трудоустройство и дистанционная биометрия. «Высокорисковые» ИИ-системы подлежат регистрации, а их разработчики обязаны будут соблюдать положения законодательства ЕС.

Большинство ныне действующих приложений ИИ считаются «низкорисковыми» и потому жёсткому регулированию не подлежат. Однако в особую группу выделены «умные» чат-боты, потенциально пригодные для создания дипфейков генеративные инструменты, а также модели ИИ общего назначения (general purpose AI, GPAI). В случае, если некая перспективная GPAI будет классифицирована как «представляющая системную опасность», на неё будут распространяться дополнительные ограничения. Европейские законодатели особо отметили стремление разработчиков ИИ-моделей сохранять данные и методы их тренировки в тайне, однако из соображений защиты авторских прав тех, плоды чьей интеллектуальной деятельности могут использоваться для обучения ИИ, ЕС настаивает на предельной прозрачности процедур тренировки. В любом случае AI Act рассматривается в Евросоюзе лишь как начало большого законотворческого пути: по мере всё более глубокого проникновения ИИ во все сферы хозяйства и жизни регулировать применение «умных» систем (тем более если поводов заключать это слово в кавычки будет становиться всё меньше) потребуется ещё сильнее.

Источник: 3dnews.ru

Александр Григорьев ЦСО "Крокус"