Тема искусственного интеллекта в немецкой юстиции выходит на новый уровень. Суды всё чаще сталкиваются с документами, которые выглядят профессионально, но содержат ошибки, выдуманные ссылки на решения и юридически бессмысленные требования.
Проблема уже затрагивает не только адвокатов, но и обычных граждан, которые пытаются самостоятельно составлять заявления с помощью цифровых помощников.
Один из показательных случаев произошёл в Берлине. Камерный суд раскритиковал документы, в которых, по оценке судей, были заметны следы «фантазирующего» искусственного интеллекта. В тексте упоминались якобы существующие решения Федерального верховного суда и Высшего земельного суда Бранденбурга, но часть этих ссылок оказалась недействительной или вовсе вымышленной.
Похожая проблема ранее возникала и в Кёльне. Там суд указал на многочисленные неверные цитаты и ссылки в адвокатском документе. Для судьи это означало дополнительную работу: нужно было проверять, существуют ли книги, авторы, решения и номера дел, на которые ссылался юрист. Такие ошибки не просто портят стиль документа. Они могут мешать рассмотрению дела и затягивать процесс.
Особенно заметна эта проблема в социальных судах. В Северном Рейне-Вестфалии суды сообщали о росте заявлений и срочных ходатайств, созданных с помощью искусственного интеллекта, прежде всего по темам базового пособия и страхования от безработицы. Такие документы часто длинные, перегруженные формулировками и содержат требования, которые юридически не работают.
Для граждан искусственный интеллект выглядит как доступный способ заменить адвоката. Человек вводит свою проблему, получает уверенный текст и отправляет его в суд. Но язык таких документов может обманывать: они звучат убедительно, хотя внутри есть ошибки. В праве это особенно опасно, потому что неверная ссылка или неправильное требование могут ухудшить положение заявителя.
Суд не может просто игнорировать такой документ только потому, что он написан плохо. Судьи обязаны проверить доводы, даже если они составлены машиной, а человек сам не понимает их смысла. В результате искусственный интеллект, который должен был упростить доступ к правосудию, иногда создаёт дополнительную нагрузку для системы.
Для адвокатов ситуация ещё строже. Они имеют профессиональную обязанность проверять документы перед подачей в суд. Если юрист использует искусственный интеллект, ответственность всё равно остаётся на нём. Судебный документ нельзя отправлять как черновик из программы. Все факты, цитаты, нормы закона и судебные решения должны быть проверены человеком.
При этом полностью отвергать искусственный интеллект в юстиции было бы неправильно. Суды и министерства юстиции сами изучают, где такие технологии могут быть полезны. Речь идёт об автоматическом обезличивании судебных решений, сортировке больших массивов документов, поиске повторяющихся дел и помощи при стандартных процедурах. В таких задачах искусственный интеллект может реально разгрузить систему.
Но есть принципиальная разница между помощником и заменой судьи. Европейские правила об искусственном интеллекте относят системы, которые помогают судам применять право, к зоне высокого риска. Это означает строгие требования, контроль и сохранение последнего слова за человеком. Судебное решение не может быть результатом работы непрозрачной программы.
Главный вызов для Германии сейчас — не запретить искусственный интеллект, а научиться работать с ним безопасно. Юристам нужны правила проверки, гражданам — понятные предупреждения о рисках, а судам — инструменты, которые помогут отличать полезную цифровую помощь от потока некачественных документов.
Искусственный интеллект уже вошёл в юридическую практику. Вопрос теперь не в том, можно ли его остановить, а в том, кто будет отвечать за ошибки. Если документ подаётся в суд от имени человека или адвоката, именно человек и адвокат должны отвечать за его содержание. Иначе суды рискуют утонуть в красивых, длинных, но юридически пустых текстах.