Внедрение элементов электронного суда и дистанционного рассмотрения дел во время карантина обострило вопрос допустимого вмешательства технологий в процесс правосудия: мы либо уравниваем «цифровое» рассмотрение дела к традиционному явочному, либо ищем обоснование, когда такое цифровое замещение допустимо, а когда нет. К примеру, может ли быть допрошен свидетель онлайн?

А что если допустить не просто дистанционное участие сторон, а заменить судью на компьютер? Справится ли искусственный интеллект с возложенной на него задачей и воспримет ли общество полученный результат?

Издание «Я и Закон» публикует перевод блога Адриана Цукермана «Искусственный интеллект — последствия для юридической профессии, состязательного процесса и верховенства закона», посвященного этой теме.

Использование искусственного интеллекта (ИИ) в юридических службах все чаще используется в различных правовых контекстах. Поскольку цифровые технологии выполняют всё более сложные функции, эта тенденция будет ускоряться и расширяться. Поскольку направление движения ясно, мы должны рассмотреть возможные долгосрочные последствия.

Искусственный интеллект относится к более широкой науке о проектировании компьютеров для интеллектуального действия без необходимости явного программирования достижения конкретных результатов. Системы искусственного интеллекта теперь могут выполнять многие задачи, требующие знакомства с данными и контекстуального суждения в бесконечном сочетании обстоятельств.

Толчок к всё более амбициозному использованию технологий в юридических услугах исходит как от низших, так и от высших эшелонов пользователей. Политики надеются использовать компьютерные технологии, чтобы облегчить доступ к правосудию тем, кто не может позволить себе платить за юридические услуги, в настоящем времени — подавляющему большинству населения. Пользователи видят преимущества ИИ в собственном бизнесе и ожидают, что юристы также будут использовать его потенциал для повышения эффективности.

Суды довольно медленно использовали преимущества цифровых технологий. Но теперь бумага заменяется цифровым форматом, и скоро большая часть общения с судом будет в Интернете. В трибуналах цифровая технология используется для подачи и обработки заявлений в административных апелляциях, в заявлениях об освобождении под залог, в налоговых спорах и в судебных процессах по трудоустройству. Пользователи трибуналов могут представлять онлайн-пояснения и доказательства, участвовать в разрешении споров, следить за ходом рассмотрения их дела и участвовать в непрерывном онлайн-разрешении до момента вынесения окончательного решения. Такое использование технологий не задействует ИИ, а просто использует старые цифровые системы.

Более смелый шаг в этом направлении — Интернет-суд, призванный облегчить доступ к правосудию непредставленным сторонам, предъявляющим малозначимые иски. Компьютеры, использующие ИИ или экспертные системы, будут направлять сложные судебные разбирательства для выработки согласованных юридических требований или защиты. Такие системы не основаны на искусственном интеллекте, но работают с логическими правилами или деревьями решений, состоящими из правил или инструкций, определяющих результат заданных входных данных. Рассуждение является дедуктивным (если X, затем Y), за которым следуют ответы «да» или «нет» на предварительно запрограммированные вопросы, предназначенные для достижения заранее определенного окончательного результата.

Системы искусственного интеллекта, тем не менее, используются в судебных процессах и для других сложных юридических задач. В коммерческих судебных процессах используются машины для идентификации соответствующих документов. В сложных транзакциях машины теперь можно использовать для просмотра документов. Кроме того, автоматизация таких и других задач, которые традиционно выполнялись юристами за почасовую оплату, может привести к сокращению числа практикующих юристов.

Пока что такие разработки оказали ограниченное влияние. Но по мере того, как системы искусственного интеллекта приобретают более высокие юридические навыки и выполняют более сложные задачи, может быть достигнут момент, когда технологическое воздействие на юридические услуги начинает более глубоко изменять правовой ландшафт. Юристы могут увидеть падение не только в объемах, но и в навыках, которыми должны обладать юристы. Кроме того, новые участники, вероятно, разработают системы искусственного интеллекта, чтобы конкурировать с традиционными поставщиками юридических услуг, предлагая альтернативы ориентированным на человека услугам по более низкой цене.

На карту поставлены не только экономические интересы юристов. Более узкая юридическая профессия больше не сможет подготовить достаточное количество юристов, обладающих опытом и навыками, необходимыми для выполнения судебных функций. Юридическая профессия, которая меньше по размеру и имеет более ограниченный набор навыков, может быть не в состоянии внести свой традиционный вклад в развитие закона или привлечение исполнительной власти к ответственности. Потеря ихвклада в социальное благополучие может быть значительной.

Оцифровка, вероятно, повлияет на характер правовых институтов, и в частности суда. Если технология, используемая в онлайн-суде, будет развиваться, чтобы использовать потенциал ИИ, большая часть судебного разбирательства может быть проведена без непосредственного взаимодействия в публичном пространстве. Это не надуманная перспектива. Машины уже выполняют судебные задачи по разрешению споров между продавцами и покупателями на Amazon и eBay. Поскольку большинство людей не могут позволить себе платить за профессиональное юридическое представительство в судебных разбирательствах, вполне возможно, что в скором времени аналогичные формы судебного разбирательства могут заменить судей в исках низкой стоимости.

Если бы это произошло, то состязательная система, как мы ее знаем, исчезла бы из-за большого количества судебных процессов, потому что процесс принятия решений (ввод данных и вывод разрешения) эффективно происходил бы между компьютерами. Тем не менее, система состязательности, в которой противники представляют свои аргументы и доказательства судье, заседающему в открытом для общественности суде, подкрепляет легитимность суда. Легитимность в смысле общественного восприятия того, что суд имеет право требовать соблюдения решения. Именно это убеждение побуждает людей соблюдать закон независимо от вознаграждения или наказания.

Законность судебных органов в значительной степени основана на их моральном авторитете. Суды руководствуются моральным авторитетом, потому что они уважают человека, занимаются индивидуальными проблемами, моральными взглядами людей, убеждениями, амбициями, эмоциями и их общественным сознанием. Поскольку машинам не хватает субъективности от первого лица, машины ничего не знают о таких вещах, алгоритмы состоят из статистических паттернов. В результате принятие решений искусственным интеллектом может привести к всё возрастающей пропасти между машинным правом и человеческими представлениями о справедливости и морали, вплоть до того момента, когда правовые институты перестанут обладать лояльностью и легитимностью.

Несмотря на такие риски для целостности наших юридических институтов, использование технологий в юридических услугах будет расширяться благодаря своим несомненным преимуществам. Оцифровка суда может обеспечить экономию и большую эффективность. Судебные рассмотрения «в компьютере» могут обеспечить доступ к правосудию для значительной части населения, которая не может позволить себе нанять адвокатов. У машин отсутствует личный контакт, но по мере того, как люди привыкают к цифровым технологиям во всевозможных контекстах, они могут предпочесть, по крайней мере, в краткосрочной перспективе, машинное решение, потому что оно исключает факторы, которые алгоритмы считают не относящимися к делу, такие как эмоции, и обеспечивает стандартизированные результаты быстрее и с меньшими затратами.

Несмотря на краткосрочные выгоды, разрыв между ИИ и человеческими потребностями и ожиданиями может увеличиться до такой степени, что люди могут стать отчужденными от правовых институтов, что приведет к потере легитимности и нанесению ущерба верховенству права. Чтобы иметь возможность смягчить риски, связанные с ИИ, мы должны подумать, как наилучшим образом извлечь выгоду из того, что ИИ предлагает, не подрывая основы наших правовых и социальных институтов. Возможно, мы не сможем полностью контролировать ход событий, но обсуждение вариантов сейчас может дать нам шанс предотвратить некоторые нежелательные последствия.

Адриан Цукерман,

заслуженный профессор гражданского процесса, Оксфордский университет