Юристы возмущены использованием ИИ в судах

Малайзийские юристы считают, что использование искусственного интеллекта в судебных делах «неконституционно».

Малайзийские юристы говорят, что использование системы ИИ в системе правосудия страны является «неконституционным», и утверждают, что никто на самом деле не понимает, как она работает. Это произошло после того, как суды в двух штатах Малайзии запустили тестовую программу по использованию ИИ для помощи судьям в вынесении приговоров осужденным торговцам наркотиками и насильникам.

Программное обеспечение для искусственного интеллекта, разработанное государственной государственной фирмой Sarawak Information Systems, было впервые представлено в 2020 году в двух судах в Сабахе и Сараваке на острове Борнео в рамках пилотной схемы по изучению эффективности искусственного интеллекта при вынесении приговоров. Испытания должны были завершиться в апреле 2022 года.

Суд штата Сабах первым в стране применил ИИ для вынесения судебного приговора, когда в 2020 году он признал двух мужчин виновными в хранении наркотиков. приговор, в котором утверждалось, что система использовалась до того, как судьи, адвокаты и общественность даже получили возможность полностью понять ее и то, как она работает.

«Наш Уголовно-процессуальный кодекс не предусматривает использование ИИ в судах… Я считаю это неконституционным», Об этом Reuters сообщил Исмаил. «Вынося приговор, судьи не просто рассматривают обстоятельства дела — они также учитывают смягчающие обстоятельства и действуют по своему усмотрению. Но ИИ не может действовать по своему усмотрению». — сказал он, добавив, что приговор, вынесенный ИИ одному из его клиентов за мелкое хранение наркотиков, был слишком суровым — 12 месяцев тюрьмы за хранение 0,01 грамма метамфетамина.

Совет адвокатов Малайзии, представляющий юристов, также выразил свое недовольство пилотной программой искусственного интеллекта. После того, как суды в Куала-Лумпуре, столице Малайзии, начали тестировать систему в середине 2021 года, чтобы предложить приговоры за 20 видов преступлений, совет заявил, что это «вообще не давали указаний, и у нас не было возможности получить отзывы от практикующих специалистов по уголовному праву».

Малазийский аналитический центр Khazanah Research Institute также подал отчет о системе в 2020 году, утверждая, что смягчающие меры, установленные в программном обеспечении ИИ, такие как удаление расы как переменной, не помогли сделать систему идеальной. Они также отметили, что система «несколько ограничен по сравнению с обширными базами данных, используемыми в глобальных усилиях» поскольку алгоритм ИИ обучался только с использованием набора данных за пять лет с 2014 по 2019 год.

Представитель председателя Федерального суда заявил, что использование искусственного интеллекта в судах «все еще находится на экспериментальной стадии», но отказался от дальнейших комментариев по поводу работы системы.

Прочитайте больше

Между тем, использование ИИ в системе уголовного правосудия быстро растет во всем мире: от популярного мобильного приложения DoNotPay для юристов-чатботов до судей с ИИ, рассматривающих мелкие иски в Эстонии, медиаторов-роботов в Канаде и даже судей с ИИ в Китайские суды.

Сторонники этих систем искусственного интеллекта настаивают на том, что они делают приговор более последовательным и могут быстро и дешево устранять накопившиеся дела, экономя время и деньги для сторон, участвующих в судебном разбирательстве.

Саймон Честерман, профессор права в Национальном университете Сингапура и старший директор государственной программы AI Singapore, настаивает на том, что технологии могут повысить эффективность системы уголовного правосудия, но признает, что легитимность таких систем зависит не только от точности принимаемых решений, но и от того, как они принимаются.

«Многие решения можно было бы передать машинам. [But] судья не должен отдавать свое усмотрение непрозрачному алгоритму». — сказал Честерман.

Вернувшись в Сабах, Исмаил обжаловал суровый приговор своему клиенту, который был рекомендован AI, и судья, председательствовавший в деле, в конце концов удовлетворил его апелляцию.

Однако Исмаил предупредил, что многие другие юристы, особенно молодые, могут решить не бросать вызов системе искусственного интеллекта, что потенциально может привести их клиентов к неоправданно суровым приговорам.

«ИИ действует как старший судья, молодые магистраты могут подумать, что это лучшее решение, и принять его без вопросов». — сказал Исмаил.

источник: www.rt.com