Поддержать команду Зеркала
Беларусы на войне
Налоги в пользу Зеркала
  1. Власть изымает недвижимость беларусов, но те, кто поучаствует в процессе, сами могут остаться без жилья. Вспоминаем опыт соседних стран
  2. Нацбанк озадачен, что может не удержать рубль, и предупреждал, что, возможно, запустит печатный станок. Что это такое и чем грозит
  3. В Украине отложили выборы из-за войны — теперь пропаганда РФ пытается подорвать легитимность Зеленского. Эксперты рассказали, как именно
  4. Золотова отказывала Захарову, а Зиссер — директору МТС. Бывшие журналисты и редакторы — о силе TUT.BY
  5. «Его охраной занимаются все силовые подразделения Беларуси». Поговорили с офицером, который обеспечивал безопасность Лукашенко
  6. С июля вам могут перестать выдавать пенсию и пособия на детей, если не совершите одно действие
  7. «Список из 200 человек». Силовики приходят в квартиры уехавших из страны беларусов — что они говорят
  8. На рынке труда — новый антирекорд. Дефицит кадров нарастает такими темпами, что о проблеме говорит даже Лукашенко
  9. Находящаяся в розыске в Беларуси Анжелика Агурбаш объявила о новом этапе творчества и возмутила российских пропагандистов
  10. «Опечатано. КГБ». В Витебске сотрудники КГБ со спасателями пришли в квартиру журналиста-фрилансера, который уехал из страны
  11. Посольство Беларуси в Эстонии приостановило работу консульской службы
  12. У Лукашенко новый слоган, который он постоянно повторяет. Вот как пропаганда раскручивает его слова и что было раньше в репертуаре
  13. Одна из крупнейших сетей дискаунтеров бытовой химии и косметики в Беларуси ликвидирует свои юрлица
  14. ПМЖ за 3 года, а не за 5, усиление санкций и очереди на границе. Интервью «Зеркала» с главой Европарламента Робертой Метсолой


Евросоюз первым в мире принимает закон, который будет регулировать развитие систем искусственного интеллекта (ИИ) и защищать от них граждан. В среду, 14 июня, за законопроект проголосовал Европарламент. Это не конец процесса: три ветви власти ЕС — Комиссия, Парламент и Совет — должны будут согласовать окончательный вариант закона, его вступление в силу ожидается не ранее 2025 года, пишет Русская служба Би-би-си.

Фото: Reuters
Фото: Reuters

В законе системы ИИ разделены на группы по степеням риска, который они несут для европейских граждан и потребителей, и для каждой группы введены свои ограничения и меры контроля.

Совсем запрещены будут, например, системы, созданные для того, чтобы влиять на подсознание людей, а также системы биометрического распознавания, работающие в режиме реального времени.

Системы, создающие контент — такие, как ChatGPT — должны будут, в частности, четко маркировать свою продукцию и не выдавать ее за творчество живых людей.

«Депутаты Европарламента хотят гарантировать, чтобы системы ИИ контролировались людьми, были безопасны, прозрачны, отслеживаемы, не дискриминировали пользователей и способствовали защите окружающей среды», — объясняла пресс-служба Европарламента в мае, по ходу подготовки законопроекта.

В дебатах, которые прошли 13 июня, депутаты Европарламента больше всего внимания обратили на пункты о системах распознавания лиц. В проекте предлагается разрешить применение таких систем только «постфактум» (а не в режиме реального времени), только для поиска преступников, террористов и пропавших людей и только по решению суда.

Уверенное большинство евродепутатов — за такое решение, но небольшое меньшинство призывает совсем запретить системы распознавания лиц.

От этого меньшинства в дебатах выступил, в частности, Патрик Брайер — единственный в Европарламенте представитель Пиратской партии Германии.

«Мы открываем ящик Пандоры, мы создаем тотальное полицейское государство, как в Китае», — заявил Брайер (цитата по синхронному переводу).

Фото: Reuters
Левые, зеленые и «пираты» в Европарламенте говорят, что даже сильно ограниченное применение систем распознавания лиц с ИИ ведет к произволу спецслужб и попранию прав граждан, как в Китае. Фото: Reuters

Немецкий «пират» заявил, что системы распознавания лиц ошибаются в 99% случаев, и это ведет к задержаниям невиновных людей.

«Требование о санкции суда, предложенное жесткими консерваторами — это чистая формальность, дымовая завеса для прикрытия массовой слежки <…> Нельзя делать нормой культуру недоверия и становиться на сторону авторитарных режимов, которые применяют ИИ для подавления гражданского общества», — заявил Брайер перед дебатами.

Его многочисленные оппоненты возражали с трибуны Европарламента, что требовать полного запрета систем распознавания наивно, что они очень полезны в поиске террористов или, например, пропавших детей, и что сравнение с Китаем некорректно, поскольку в Европе правоохранительные органы и суды реально защищают права граждан.

Дискриминация

По мнению заместительницы председателя Еврокомиссии Маргрете Вестагер, отвечающей за антимонопольную политику, одна из самых насущных проблем, связанная с развитием искусственного интеллекта, — это дискриминация.

В эксклюзивном интервью Би-би-си Вестагер заявила, что более актуальной, по сравнению с вымиранием человечества в стиле «Терминатора», проблемой является потенциал ИИ по усилению предвзятости или дискриминации. По ее словам, этому способствует огромный объем данных, получаемых из интернета и используемых для обучения моделей и инструментов.

Маргрете Вестагер

Вестагер заявила Би-би-си, что регулирование ИИ необходимо для противодействия самым большим рискам, которые несет новая технология.

По ее словам, это имеет ключевое значение в тех случаях, когда искусственный интеллект используется для принятия решений, могущих повлиять на способность человека добывать средства к существованию, например, на получение ипотечного кредита.

«Вероятно, [риск вымирания] может существовать, но, по-моему, вероятность этого довольно мала. Я думаю, что риски ИИ больше связаны с тем, что люди будут подвергаться дискриминации, их не будут воспринимать такими, какие они есть, — сказала она. — Если банк использует ИИ для решения вопроса о том, можете ли вы получить ипотечный кредит, или если это социальные службы вашего муниципалитета, то хочется быть уверенным, что вы не подвергаетесь дискриминации из-за вашего пола, цвета кожи или места жительства».

Поскольку ИИ продолжает быстро развиваться, при выработке новых правил нужно проявлять прагматизм, считает Вестагер.

«Лучше получить, скажем, 80% сейчас, чем 100% никогда, поэтому давайте начнем, а когда научимся — вернемся к этому вопросу и скорректируем правила», — сказала она.

По ее мнению, риск того, что ИИ может быть использован для влияния на следующие выборы, «определенно существует».

Группы риска

В Законе об ИИ, который центральные европейские органы разрабатывали два года — и недавно внесли новые правки в связи с появлением феномена ChatGPT-4 — системы искусственного интеллекта разделены на четыре группы: группа «неприемлемого риска», группа «высокого риска», «генерирующие» системы и группа «ограниченного риска».

В группу «неприемлемого риска» зачислены:

  • системы, созданные для воздействия на подсознание людей;
  • системы социального рейтинга, разделяющего людей на категории по их поведению, социально-экономическому положению и прочим личным характеристикам;
  • системы распознавания в режиме реального времени.

Все они будут в Европе запрещены, исключение сделано для использования систем распознавания правоохранительными органами постфактум и с разрешения суда.

В группу «высокого риска» попали:

  • системы, применяющиеся в товарах и услугах, которые в ЕС попадают под лицензирование в рамках защиты потребителей. Это, например, игрушки, автомобили, авиация, медицинская аппаратура;
  • системы управления критически важной инфраструктурой;
  • системы, применяемые в образовательных учреждениях или в работе с персоналом фирм и учреждений;
  • системы, применяемые в правоохранительных органах, работе с мигрантами и беженцами и в охране границ.

Все эти системы ИИ будут оцениваться до их внедрения и по ходу применения и регистрироваться в специальной базе данных ЕС.

Владельцы систем, генерирующих контент, таких как ChatGPT, должны будут:

  • помечать созданный ими контент;
  • программировать их так, чтобы они не создавали противозаконный контент;
  • обнародовать списки данных, которые защищены авторским правом и на которых обучалась система.

Все прочие системы ИИ включены в группу «низкого риска», от них требуется лишь быть достаточно открытыми — чтобы пользователь знал, что имеет дело с ИИ, и имел достаточно информации, чтобы принять обоснованное решение, пользоваться ли им дальше.