ProIT: медіа для профі в IT
2 хв.

Європарламент ухвалив перший у світі закон про ШІ: обмеження і ризики

author avatar ProIT NEWS

Європейський парламент у середу, 13 березня, ухвалив закон про штучний інтелект, який має гарантувати безпеку і дотримання основних прав громадян. Про це повідомляє пресслужба Європарламенту.

За відповідний документ проголосували 523 євродепутати, проти – 46, 49 утрималися.

Основна мета закону – встановити чіткі вимоги й зобовʼязання для розробників і фахівців із впровадження штучного інтелекту. Він також має усунути ризики в роботі технології, що повʼязані з упередженістю та порушенням конфіденційності.

Закон набуде чинності після підписання країнами-членами ЄС та публікації в Офіційному віснику ЄС.

«Ми нарешті маємо перший у світі обов’язковий до виконання закон про штучний інтелект, щоб зменшити ризики, створити можливості, боротися з дискримінацією та забезпечити прозорість», – заявив співдоповідач Комітету з питань внутрішнього ринку Брандо Беніфей.

Нові правила передбачають заборону використання ШІ у випадках, які загрожують правам громадян. Серед них, зокрема, системи біометричної категоризації, що ґрунтуються на чутливих характеристиках, а також нецільове збирання зображень облич з інтернету або записів камер відеоспостереження для створення баз даних розпізнавання облич.

Закон передбачає заборону на використання систем біометричної ідентифікації (RBI) правоохоронними органами, за винятком деяких визначених ситуацій, а також за умови спеціального попереднього судового або адміністративного дозволу.

Також закон заборонить використовувати ШІ для розпізнавання емоцій на робочих місцях і у школах та обмежить застосування ШІ у критичних ситуаціях, наприклад, під час сортування заявок на роботу.

Приклади використання штучного інтелекту з високим ризиком включають критичну інфраструктуру, освіту та професійну підготовку, працевлаштування, основні приватні та державні послуги (наприклад, охорона здоров’я, банки), певні системи правоохоронних органів, управління міграцією та кордонами, правосуддя та демократичні процеси (наприклад, вплив на вибори).

Системи ШІ загального призначення (GPAI) і моделі GPAI, на яких вони базуються, повинні відповідати певним вимогам прозорості, включно з дотриманням законодавства ЄС про авторське право.

Крім того, штучно згенеровані зображення, аудіо- чи відеоконтент мають бути чітко позначені як такі. Громадяни матимуть право подавати скарги на системи ШІ.

Bloomberg повідомляє, що технологічні компанії побоюються, що норми закону обмежують конкурентоспроможність європейських компаній щодо китайських та американських конкурентів. При цьому цифрові регулятори вважають закон недостатньо дієвим.

«З обмеженою індустрією цифрових технологій і відносно низькими інвестиціями порівняно з галузевими гігантами, такими як Сполучені Штати та Китай, амбіції ЄС щодо технологічного суверенітету й лідерства у сфері штучного інтелекту стикаються зі значними перешкодами», – написала Ралука Чернатоні, науковий співробітник аналітичного центру Carnegie Europe.

Проти нових правил виступали не тільки технологічні компанії, але й деякі країни ЄС. Франція разом із Німеччиною просили послабити обмеження, оскільки не хотіли, щоб новий закон перешкоджав перспективним європейським стартапам, як-от Mistral AI та Aleph Alpha, і вони могли б кинути виклик американським компаніям у цій галузі.

Законодавці визнали, що попереду ще значна робота. ЄС перебуває у процесі створення офісу ШІ – незалежного органу в межах Європейської комісії. На практиці офіс буде ключовим органом, який матиме змогу вимагати інформацію від компаній, що розробляють генеративний ШІ, і, можливо, накладати обмеження та заборони.

Нагадаємо, за результатами досліджень ШІ демонструє явні расові упередження, коли використовується як інструмент HR.

Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!

Приєднатися до company logo
Продовжуючи, ти погоджуєшся з умовами Публічної оферти та Політикою конфіденційності.