Рада Європи прийняла перший в історії міжнародний юридично обов’язковий договір, спрямований на забезпечення дотримання прав людини, верховенства права та правових стандартів демократії при використанні систем штучного інтелекту (ШІ) . Угода, яка також відкрита для неєвропейських країн, встановлює правову базу, яка охоплює весь життєвий цикл систем ШІ та усуває ризики, які вони можуть становити, одночасно сприяючи відповідальним інноваціям. Конвенція приймає підхід до проектування, розробки, використання та виведення з експлуатації систем штучного інтелекту, що ґрунтується на оцінці ризику, що вимагає ретельного розгляду будь-яких потенційних негативних наслідків використання систем штучного інтелекту.
Рамкова конвенція Ради Європи про штучний інтелект, права людини, демократію та верховенство права була прийнята в Страсбурзі під час щорічної міністерської зустрічі Комітету міністрів Ради Європи, яка об’єднує міністрів закордонних справ 46-ї Ради Європи. країн-членів Європи.
Генеральний секретар Ради Європи Марія Пейчинович сказала: «Рамкова конвенція про штучний інтелект — це перший у своєму роді глобальний договір, який забезпечить захист прав людей у сфері штучного інтелекту. Це відповідь на потребу в міжнародному правовому стандарті, який підтримується державами на різних континентах, які поділяють однакові цінності, щоб використовувати переваги штучного інтелекту, одночасно пом’якшуючи ризики. За допомогою цієї нової угоди ми прагнемо забезпечити відповідальне використання ШІ, яке поважає права людини, верховенство права та демократію».
Конвенція є результатом дворічної роботи міжурядового органу, Комітету зі штучного інтелекту ( CAI ), який зібрав для розробки проекту договору 46 держав-членів Ради Європи, Європейський Союз та 11 держав, що не є членами (Аргентина). , Австралія, Канада, Коста-Ріка, Святий Престол, Ізраїль, Японія, Мексика, Перу, Сполучені Штати Америки та Уругвай), а також представники приватного сектору, громадянського суспільства та наукових кіл, які брали участь як спостерігачі.
Договір охоплює використання систем штучного інтелекту в державному секторі, включаючи компанії, які діють від його імені, і в приватному секторі. Конвенція пропонує сторонам два способи дотримання її принципів і зобов’язань при регулюванні приватного сектора: сторони можуть обрати пряме зобов’язання відповідно до відповідних положень конвенції або, як альтернативу, вжити інших заходів для дотримання положень угоди, повністю дотримуючись своїх міжнародні зобов’язання щодо прав людини, демократії та верховенства права. Такий підхід необхідний через відмінності правових систем у всьому світі.
Конвенція встановлює вимоги щодо прозорості та нагляду з урахуванням конкретних умов і ризиків, включаючи ідентифікацію контенту, створеного системами ШІ. Сторони повинні будуть вжити заходів для виявлення, оцінки, запобігання та пом’якшення можливих ризиків, а також оцінити необхідність мораторію, заборони чи інших відповідних заходів щодо використання систем ШІ, якщо їхні ризики можуть бути несумісними зі стандартами прав людини.
Вони також повинні будуть забезпечити підзвітність і відповідальність за несприятливі наслідки, а також те, що системи ШІ поважають рівність, включаючи гендерну рівність, заборону дискримінації та права на конфіденційність. Крім того, учасники договору повинні будуть забезпечити доступність засобів правового захисту для жертв порушень прав людини, пов’язаних з використанням систем штучного інтелекту, і процесуальних гарантій, включаючи повідомлення будь-яких осіб, які взаємодіють із системами штучного інтелекту, про те, що вони взаємодіють із такими системами.
Що стосується ризиків для демократії, договір вимагає від сторін вжити заходів для забезпечення того, щоб системи штучного інтелекту не використовувалися для підриву демократичних інститутів і процесів, включаючи принцип поділу влади, повагу до незалежності судової влади та доступ до правосуддя.
Учасники конвенції не будуть зобов’язані застосовувати положення договору до діяльності, пов’язаної із захистом інтересів національної безпеки, але будуть зобов’язані забезпечити, щоб ця діяльність поважала міжнародне право та демократичні інститути та процеси. Конвенція не поширюватиметься ні на питання національної оборони, ні на дослідницьку та дослідно-конструкторську діяльність, за винятком випадків, коли тестування систем штучного інтелекту може потенційно втручатися в права людини, демократію чи верховенство права.
Для забезпечення її ефективного виконання Конвенція встановлює механізм подальших заходів у формі Конференції Сторін.
Нарешті, конвенція вимагає, щоб кожна сторона створила незалежний наглядовий механізм для нагляду за дотриманням конвенції, а також підвищувала обізнаність, стимулювала інформовану громадську дискусію та проводила консультації з багатьма зацікавленими сторонами щодо того, як слід використовувати технології ШІ. Рамкова конвенція буде відкрита для підписання у Вільнюсі (Литва) 5 вересня під час конференції міністрів юстиції.