ИИ и юридическая практика: еженедельный обзор российских и международных новостей

На этой неделе обсуждение искусственного интеллекта в юридической сфере заметно изменилось. В России внимание смещается от общих рассуждений о возможностях нейросетей к профессиональным границам их применения и ответственности за результат. За рубежом одновременно обсуждаются правила подготовки будущих юристов, полномочия автономных агентов, права на содержимое юридических баз и локальное развёртывание моделей.

Общий вывод недели состоит в том, что ИИ перестают воспринимать как обычный инструмент подготовки текста. Получая доступ к документам, базам знаний и внешним информационным системам, он превращается в участника рабочего процесса, действия которого необходимо ограничивать, фиксировать и проверять.

Российская дискуссия: автоматизировать работу, но не юридическое суждение

Новых федеральных законов или обязательных правил применения ИИ юристами за неделю не появилось. Однако в профессиональном сообществе опубликовано сразу несколько материалов, развивающих положения Концепции внедрения технологий искусственного интеллекта в российское судопроизводство.

ФПА выпустила практическое пособие по применению ИИ

18 сентября электронная библиотека Федеральной палаты адвокатов пополнилась пособием Александра Реховского «Искусственный интеллект в юридической практике. Архитектура суждений и промт-инжиниринг». Оно издано под эгидой ФПА РФ и Адвокатской палаты Приморского края.

Сообщение ФПА РФ

Само появление такого пособия примечательно. Применение ИИ начинает рассматриваться не как частный эксперимент отдельных адвокатов, а как самостоятельная профессиональная компетенция.

При этом владение ИИ нельзя сводить к умению составлять длинные промпты. Для практикующего юриста важнее правильно разделить работу на отдельные этапы:

• выделить юридически значимые факты;
• определить предмет доказывания;
• установить, каких документов недостаёт;
• найти применимую редакцию закона;
• подобрать и проверить судебную практику;
• сформировать возможные позиции сторон;
• самостоятельно выбрать стратегию и окончательные доводы.

ИИ может помогать на каждом из этих этапов. Однако он не должен незаметно объединять их в единый готовый ответ. Иначе юрист получает внешне связный текст, не понимая, на каком шаге модель допустила ошибку.

Практический вывод для адвокатского образования состоит в необходимости обучать не только работе с запросами, но и декомпозиции правовой задачи, проверке источников, фиксации ошибок и определению допустимых пределов автоматизации.

Ответственность адвоката не меняется вместе с технологией

Президент ФПА РФ Светлана Володина в опубликованном 18 сентября выступлении обратила внимание на то, что ИИ может ускорять поиск практики, выявлять противоречия и обрабатывать значительные массивы документов. Однако профессиональная ответственность остаётся за человеком.

Публикация ФПА РФ

Это важное уточнение. Нейросеть не подписывает процессуальный документ, не принимает поручение и не отвечает перед доверителем. Поэтому ссылка на техническую ошибку сервиса не освобождает юриста от обязанности проверить:

• существование судебного акта;
• точность его реквизитов;
• наличие приведённой цитаты в полном тексте;
• применимость правовой позиции к обстоятельствам дела;
• последующую судьбу судебного акта;
• актуальность нормативного регулирования.

Для существенных документов такой контроль желательно не только проводить, но и фиксировать. Внутренний лист проверки может содержать сведения о том, кто использовал ИИ, какая модель применялась, какие источники были найдены, кем они проверены и кто утвердил окончательный текст.

ИИ может изменить не только скорость, но и способ юридического мышления

21 сентября «Адвокатская газета» опубликовала статью адвоката АП Нижегородской области Врежа Гуляна об ИИ и юридическом мышлении. Автор предлагает отказаться от слишком общего вопроса о том, заменит ли нейросеть юриста. Реальный риск состоит в постепенной передаче алгоритму отдельных интеллектуальных функций внутри профессии.

Статья «Искусственный интеллект и юридическое мышление»

Типовой поиск, первичная классификация документов и подготовка черновика действительно могут быть автоматизированы. Но если юрист передаёт модели определение правовой квалификации, оценку доказательств и выбор стратегии, он рискует формально сохранить статус лица, принимающего решение, фактически перестав проводить самостоятельный анализ.

Особенно опасен этот эффект в судебной системе. Если алгоритм будет показывать судье статистически преобладающую позицию, практика может начать воспроизводить сама себя. Ошибочный, но распространённый подход получит дополнительное преимущество только потому, что встречается чаще.

Для стороны процесса это означает, что в будущем может оказаться недостаточно показать существование иной судебной практики. Потребуется объяснять, почему преобладающий подход неприменим к конкретным обстоятельствам либо нуждается в пересмотре.

В собственной работе этот риск можно уменьшить, если сначала формировать предварительную позицию без генеративной модели и только затем использовать ИИ как оппонента: просить его найти слабые места, контраргументы и недостающие доказательства. При такой последовательности система проверяет юридическое суждение, а не подменяет его.

Кто отвечает за ошибку судебного ИИ

24 сентября опубликован ещё один российский материал, посвящённый распределению ответственности при внедрении ИИ в судопроизводство. Его автор обращает внимание, что Концепция Верховного Суда оценивает преимущественно масштабы и скорость применения технологий: количество пользователей, подготовленных проектов и время поиска информации. Эти показатели сами по себе не подтверждают повышение качества правосудия.

Статья «Нейросеть не является субъектом ответственности»

Например, высокая доля проектов судебных актов, утверждённых без существенных изменений, может иметь два противоположных объяснения. Либо система действительно работает точно, либо пользователи постепенно перестают критически проверять её предложения.

Поэтому оценивать судебный ИИ следует также по другим критериям:

• количеству обнаруженных и исправленных ошибок;
• точности найденной практики;
• полноте представления альтернативных позиций;
• безопасности обрабатываемых данных;
• возможности восстановить ход работы системы;
• влиянию инструмента на процессуальные права сторон.

Отдельная проблема возникает, если суд использует внутренний алгоритмический анализ, а стороны не знают, какие акты, данные и критерии повлияли на его результат. Формируется информационная асимметрия: суд получает дополнительный аналитический инструмент, выводы которого участники процесса не могут проверить и оспорить.

Будущие правила должны предусматривать как минимум фиксацию существенного использования ИИ, хранение журнала операций, возможность расследовать системную ошибку и понятный порядок приостановления работы проблемного инструмента.

Ответственность при этом не может возлагаться только на судью. Судья отвечает за итоговый акт и критическую оценку материалов. Судебная система и оператор — за правила применения, проверку качества и безопасность сервиса. Разработчик — за технические недостатки в пределах принятых обязательств. Сама нейросеть субъектом ответственности не является.

Международные новостиЮридические школы вводят формальные правила использования ИИ

21 сентября Reuters сообщил, что не менее 12 юридических школ США пересмотрели свои правила использования ИИ. Одни учебные заведения ограничивают применение нейросетей, другие вводят специальные дисциплины и разрешают использование технологии при соблюдении установленных условий. Suffolk University собрал правила 180 юридических школ в отдельную базу.

Материал Reuters

Это показывает, что умение работать с ИИ превращается в профессиональную компетенцию. Одновременно образовательные организации стараются сохранить навыки, которые будущий юрист должен приобрести самостоятельно: чтение полного текста судебного решения, построение аргументации, выявление исключений и письменное изложение позиции.

Аналогичный подход полезен юридическим фирмам. Общего разрешения или запрета недостаточно. Необходимо определить, какие задачи сотрудник вправе передавать модели, в каких случаях он должен сообщать об использовании ИИ и какие навыки обязан продемонстрировать без его помощи.

Например, использование нейросети можно разрешить для структурирования документа, подготовки перечня вопросов и первичной классификации материалов. Но проверка судебных ссылок, оценка достаточности доказательств и выбор окончательной позиции должны оставаться за ответственным юристом.

Автономные агенты создают новый уровень ответственности

22 сентября крупнейшие банки предупредили о рисках ИИ-агентов, способных самостоятельно выбирать товары и совершать платежи. Среди проблем названы непрозрачность действий, передача финансовых данных, мошенничество и отсутствие понятного механизма возмещения вреда.

Материал Reuters

Для юридической практики этот вопрос даже важнее. Пока ИИ только готовит черновик, его ошибку можно исправить до наступления последствий. Но агент может получить право:

• направлять сообщения клиенту или оппоненту;
• загружать документы в информационную систему;
• изменять карточку дела;
• обращаться к правовым базам;
• создавать календарные события;
• передавать данные другим сервисам.

Каждое такое полномочие увеличивает риск. Поэтому юридическому агенту необходима матрица доступа: разрешённые действия, операции с подтверждением человека и безусловно запрещённые действия.

Автоматическую отправку процессуальных документов, удаление файлов, передачу конфиденциальной информации и совершение юридически значимых действий следует запретить либо поставить под обязательное подтверждение ответственного юриста.

Кроме того, система должна сохранять журнал операций. Если агент пропустил срок, отправил неправильную редакцию документа или раскрыл сведения, необходимо установить, какое поручение он получил, к каким данным обращался и почему совершил соответствующее действие.

Права на содержимое юридической базы нужно проверять отдельно

22 сентября OpenAI и Anthropic предложили австралийским властям разрешить ограниченное использование охраняемых авторским правом материалов для обучения моделей. Правительство Австралии ранее отказалось вводить общее исключение из авторского права.

Материал Reuters

Этот спор имеет значение не только для разработчиков фундаментальных моделей. Юридическая фирма, создающая собственную базу знаний, также должна определить правовой режим каждого массива.

Доступ к документу ещё не означает наличие права использовать его для обучения или выдачи по другим проектам. Ограничения могут относиться к:

• коммерческим правовым базам;
• учебным материалам и комментариям;
• заключениям сторонних консультантов;
• клиентским документам;
• внутренней переписке;
• шаблонам, созданным в рамках конкретного поручения.

Корпоративная юридическая база должна учитывать не только содержание документа, но и его источник, владельца, разрешённые цели использования, срок хранения и круг лиц, которым он может быть показан.

Особенно важно разделять права на хранение, поиск, включение в контекст ответа и дообучение модели. Это разные способы использования информации, и разрешение на один из них не всегда охватывает остальные.

Локальная модель не всегда означает закрытый контур

21 сентября бельгийская компания Aikido представила открытую модель для анализа кибербезопасности, рассчитанную на локальный запуск без передачи исходного кода внешнему поставщику. Хотя это не юридический продукт, новость отражает растущий спрос на модели, работающие внутри контролируемой инфраструктуры.

Материал Reuters

Для юридической фирмы локальное развёртывание особенно важно при работе с адвокатской тайной, персональными данными и коммерчески чувствительными материалами.

Однако само обозначение «локальная модель» не гарантирует конфиденциальности. Документы могут покидать внутренний контур через:

• сервис подготовки эмбеддингов;
• систему журналирования;
• аналитические модули;
• механизм проверки лицензии;
• внешнюю поисковую систему;
• резервное копирование;
• средства мониторинга и обновления модели.

Перед внедрением необходимо установить, где выполняются все этапы обработки, а не только основной запрос к модели. Если документы хранятся на локальном сервере, но их фрагменты направляются внешнему API для формирования эмбеддингов, полностью закрытым такой контур назвать нельзя.

Следовательно, проверять нужно фактическую архитектуру: движение данных, сетевые обращения, права администраторов, порядок обновления компонентов и содержание технических журналов.

Skadden переходит от универсального помощника к специализированным клиентским инструментам

21 сентября юридическая фирма Skadden сообщила о сотрудничестве с OpenAI и разработке набора ИИ-инструментов для оценки регуляторных рисков, сопровождения сделок и консультирования клиентов.

Сообщение Skadden

Эта новость показывает ещё одно направление развития юридического ИИ. Крупные фирмы рассматривают его уже не только как внутренний инструмент для поиска информации, проверки документов и сокращения времени сотрудников. ИИ постепенно становится основой самостоятельных клиентских продуктов, встроенных в конкретные юридические процессы.

Практическая ценность таких решений создаётся не универсальной моделью самой по себе, а сочетанием нескольких компонентов:

• проверенной правовой базы;
• профессиональной методики конкретной фирмы;
• структурированного сценария работы;
• системы проверки источников;
• разграничения доступа к клиентским данным;
• участия ответственного юриста в принятии итогового решения.

Для небольшой юридической практики этот подход не означает необходимости создавать собственную большую языковую модель. Более реалистичен узкий инструмент, решающий одну повторяющуюся задачу: проводящий первичную проверку договора, собирающий факты по спору, выявляющий недостающие документы, рассчитывающий требования или контролирующий процессуальные сроки.

Например, при первичном анализе спора система может последовательно установить стороны, требования, сроки, имеющиеся доказательства и пробелы в документах. После этого она формирует не готовое заключение, а рабочую карту дела для проверки юристом. Такой инструмент проще контролировать, тестировать и совершенствовать, чем универсального «ИИ-юриста».

Вместе с тем сообщение Skadden пока носит корпоративный характер. Фирма не раскрывает точную архитектуру решений, результаты испытаний, порядок проверки выводов и показатели допущенных ошибок. Поэтому публикация важна прежде всего как подтверждение рыночного направления, а не как доказательство эффективности конкретного продукта.

Конкурентное преимущество юридической практики будет определяться не наличием доступа к популярной модели, который доступен почти всем, а качеством собственной методики, правовой базы и встроенной процедуры контроля.

Что можно внедрить в юридической практике уже сейчас?

Первое практическое решение — разделить задачи ИИ по уровню риска.

К низкому риску можно отнести структурирование текста, составление перечня вопросов, сравнение редакций и первичную классификацию документов. К среднему — поиск практики, подготовку расчётов и формирование проекта процессуального документа. Такие результаты требуют обязательной проверки. К высокому риску относятся выбор стратегии, оценка достаточности доказательств, признание требований, отказ от процессуальных прав и отправка документов. Эти действия нельзя полностью передавать системе.

Второе решение — ввести реестр проверки значимых документов. В нём можно фиксировать использованную модель, переданные ей категории данных, найденные источники, ответственного за их проверку и лицо, утвердившее окончательную редакцию.

Третье — использовать ИИ не для формирования единственной позиции, а для состязательного анализа. Одной модели можно поручить построить максимально сильные доводы истца, другой — доводы ответчика. После этого юрист самостоятельно сопоставляет позиции, доказательства и процессуальные риски.

Четвёртое — ограничить полномочия агентов. Подготовка проекта может выполняться автоматически. Его отправка, удаление файла, изменение данных клиента или обращение во внешнюю систему должны требовать отдельного подтверждения.

Вывод

Главная задача юриста заключается уже не в том, чтобы научиться получать от нейросети убедительный текст. Необходимо встроить ИИ в работу таким образом, чтобы сохранялись самостоятельное юридическое мышление, конфиденциальность и возможность проверить каждый значимый вывод.

Российская профессиональная дискуссия постепенно приходит к тому же выводу, который прослеживается и в зарубежных материалах: автоматизировать можно поиск, классификацию, сопоставление и подготовку черновика. Но выбор правовой позиции, оценку доказательств и ответственность за последствия передавать алгоритму нельзя.

ИИ может ускорить подготовку позиции. Однако подписывает документ, направляет его доверителю или в суд и отвечает за результат по-прежнему человек.