ИИ может ускорить работу, но результат модели нельзя считать готовым выводом. Ответ ИИ — гипотеза, черновик или материал для проверки. Если юрист вставит в документ несуществующую норму, ошибочный расчёт или вымышленное дело, ответственность останется у юриста. Этот урок даёт протоколы проверки и правила управления рисками.
Презумпция недостоверности
Презумпция недостоверности означает, что любой результат ИИ требует проверки перед использованием. Модель может быть специализированной и подключённой к источникам, но юрист не должен передавать её вывод клиенту, суду или контрагенту без верификации.
Это не снижает ценность ИИ. Это задаёт правильный статус результата. Ответ модели — черновик, подборка, предварительная карта аргументов или список гипотез.
Рабочая формула: ИИ предлагает, юрист проверяет, юрист принимает решение.
Human-in-the-loop
Human-in-the-loop — модель работы, где человек сохраняет контроль над ключевыми действиями системы. В юридической практике ИИ не должен выполнять финальное действие без проверки юристом.
К финальным действиям относятся отправка письма клиенту, подача иска, направление претензии, подписание заключения, согласование договора и утверждение правовой позиции.
«Человек всегда должен участвовать в принятии юридических решений.» — Роман Янковский, к.ю.н., менеджер по развитию сервиса Нейроюрист, Яндекс
ИИ не несёт ответственность перед клиентом. Он не понимает переговорную стратегию и профессиональные последствия ошибки. Поэтому человек остаётся в контуре.
Протокол проверки правовых ссылок
- Выписать все ссылки на нормы из ответа ИИ.
- Открыть каждую норму в актуальной правовой базе.
- Проверить номер статьи, пункт, часть и редакцию.
- Сверить текст нормы с пересказом модели.
- Проверить действие нормы на дату фактов.
- Проверить исключения и специальные нормы.
- Исправить или удалить неподтверждённый вывод.
- Зафиксировать источник проверки.
| Ошибка | Проверка |
|---|---|
| Норма не существует | Проверить реквизиты |
| Норма устарела | Проверить редакцию |
| Текст искажён | Сверить дословно |
| Норма не применима | Проверить предмет регулирования |
| Есть исключение | Проверить связанные нормы |
Протокол проверки судебной практики
- Выписать реквизиты дела.
- Найти дело в КАД.Арбитр, ГАС «Правосудие» или иной официальной базе.
- Проверить номер, дату, суд, стороны и стадию.
- Открыть оригинальный акт.
- Сверить правовой вывод с пересказом модели.
- Проверить историю обжалования.
- Сравнить фактический состав.
- Проверить более позднюю практику.
- Использовать акт только после юридической оценки.
Ты — помощник юриста по первичной проверке судебной практики. Ниже я передам список дел, найденных ИИ. Составь таблицу для ручной верификации: номер дела, суд, дата, заявленный вывод, что нужно проверить в оригинале, риск использования, отметка о проверке истории обжалования. Не подтверждай существование дел, если я не передал ссылку на официальный источник.
Статус: ✅ Готово к использованию
Модель: любая LLM / юридическая RAG-система
Промпт превращает ответ модели в чеклист проверки. Он не просит ИИ подтвердить собственную достоверность.
Задачи высокого риска
| Уровень | Примеры | Контроль |
|---|---|---|
| Низкий | Форматирование, рерайтинг | Проверка автором |
| Средний | Саммари, черновик претензии | Проверка по исходнику |
| Высокий | Практика, нормы, расчёты | Проверка по первоисточникам |
| Критический | Суд, заключение, M&A-мемо | Проверка старшим юристом |
Маркировка задач помогает команде не использовать ИИ там, где нужен усиленный контроль.
Профессиональная ответственность и меры компании
В материалах курса приведены примеры, когда юристы ссылались на несуществующую судебную практику. Суд проверил дела и обнаружил ошибку. Последствия наступили для юристов, а не для модели.
Организационные меры:
- Утвердить политику работы с ИИ.
- Разделить сценарии на разрешённые, ограниченные и запрещённые.
- Описать проверку норм и практики.
- Запретить загрузку конфиденциальных данных без очистки.
- Вести перечень используемых инструментов.
- Проводить аудит качества и безопасности.
- Обучать сотрудников.
- Фиксировать использование ИИ в чувствительных задачах.
Запомнить
- Ответ ИИ — гипотеза, а не юридический вывод.
- Каждая норма и каждое дело проверяются по первоисточнику.
- Human-in-the-loop обязателен для финальных действий.
- Риски ИИ управляются политиками, чеклистами и аудитом.