Комитет Палаты лордов выступил с предупреждением об использовании передовых технологий, таких как искусственный интеллект (ИИ), в системе правосудия, заявив, что он «ошеломлен» распространением технических инструментов, используемых без надлежащего надзора.
Комитет юстиции и внутренних дел рекомендовал создать национальный орган для установления строгих научных стандартов, стандартов достоверности и качества технологий в системе правосудия и других сферах государственного сектора.
В докладе Технологические правила? В связи с появлением новых технологий в системе правосудия комитет отметил, что алгоритмы используются для помощи в раскрытии преступлений, помогают классифицировать заключенных по уровню безопасности, упрощают процессы оформления въезда на границах и генерируют новые идеи, которые используются во всей системе уголовного правосудия.
Но комитет предупредил, что он был «ошеломлен» отсутствием надзора, особенно со стороны полиции, и серьезными последствиями, которые это могло иметь для прав человека и гражданских свобод человека.
Комитет заявил, что обнаружил «новый Дикий Запад», на котором новые технологии развиваются такими темпами, за которыми общественность, правительство и законодательство не поспевают.
В свете этого в отчете также содержится призыв к созданию обязательного реестра алгоритмов, используемых в системе правосудия и полиции, и наказанию тех, кто его не соблюдает. Он также рекомендовал обязательную подготовку офицеров и должностных лиц по использованию самих инструментов, а также общую подготовку по вопросам законодательства, возможности предвзятости и необходимости осторожного толкования результатов.
Баронесса Хэмви, председатель Комитета юстиции и внутренних дел, сказала: «Каково это быть осужденным и заключенным в тюрьму на основании ИИ, который вы не понимаете и который не можете оспорить? Без надлежащих гарантий передовые технологии могут повлиять на права человека, подорвать справедливость судебных процессов, усугубить неравенство и ослабить верховенство закона. Имеющиеся инструменты должны соответствовать назначению и не должны использоваться бесконтрольно».
