Союз юристов и технологов: как сделать искусственный интеллект безопасным и прибыльным

Карлос Родригес Сау, партнер компании Andersen, и Давид Педреньо Риппин из 1MillionBot обсудили на конференции OKINNOVA взаимодействие искусственного интеллекта и правовой системы.

Родригес Сау считает, что ИИ разделяет юристов на две группы: тех, кто просто заменяет алгоритмами рутинные задачи, и тех, кто создает новые форматы услуг. Юридические фирмы сталкиваются с вопросом обучения младших сотрудников и поиском баланса между экономией на издержках и качеством сервиса.

Данные определяют эффективность системы. По словам эксперта, ИИ-агенты способны проверить тысячи контрактов на разных языках, если компания предоставит им доступ к своим файлам. Главный риск юристов — «эффект Красной Королевы», когда все используют стандартные инструменты вроде ChatGPT и приходят к одинаковым выводам. Чтобы оставаться востребованным, юристу нужно доказывать клиенту, что он дает больше ценности, чем стандартный алгоритм.

Давид Педреньо подчеркнул, что правовая безопасность должна закладываться еще на этапе технического проектирования. Раньше юристы и разработчики часто конфликтовали: первые накладывали ограничения на инновации вторых. Сейчас ситуация меняется. При создании чат-ботов теперь недостаточно просто настроить корректность ответов. Нужно понимать, какие источники использует система, можно ли проверить результат и кто несет ответственность за ошибки внутри организации.

Специалисты выделили критические риски при использовании ИИ. Родригес Сау напомнил: при работе в текстовых редакторах автором текста признается человек, но в случае с ИИ закон может трактовать право собственности иначе. Зачастую результаты работы нейросети принадлежат компании-разработчику софта, а не пользователю. Использование бесплатных версий или открытого кода усложняет ситуацию, так как отсутствие четкого контракта лишает компанию прав на созданные интеллектуальные продукты и конфиденциальности данных.

В ближайшие годы управление ИИ перейдет от контроля над действиями людей к управлению «цифровой рабочей силой» — сетями автономных агентов, которые общаются между собой. Педреньо уверен, что риск нужно не избегать, а грамотно им управлять через партнерство юристов и техников.

Обсуждая регулирование, Родригес Сау отметил, что европейские стандарты защиты данных стали мировым эталоном. У Европы есть шанс превратить жесткие правила в конкурентное преимущество. Для этого необходимо создавать «суверенные европейские модели» ИИ. Примером служат проекты Open Europe LLM — небольшие системы, обученные с учетом местной культуры и законов. Они справляются с базовыми задачами, гарантируя, что данные не покинут пределы ЕС.

Педреньо добавил, что европейский регламент по ИИ появился рано, когда реальных кейсов в производстве еще мало. Однако проектирование систем с опорой на интересы граждан может стать преимуществом. Малый и средний бизнес в Испании пока подходит к ИИ с опаской, боясь отстать от конкурентов, но успех зависит от наличия талантов. Программисты нового поколения, которые учились работать сразу с нейросетями, кардинально отличаются от коллег с тридцатилетним стажем.

В завершение дискуссии Родригес Сау подчеркнул, что технологии находятся в руках третьих лиц. Использование бесплатных лицензий Meta или других гигантов может стать «троянским конем», если условия использования внезапно изменятся. Юристы помогают разработчикам увидеть операционные угрозы, которые не всегда очевидны технарям.

Профессия юриста не исчезнет, но радикально изменится. Клиенты будут требовать снижения гонораров за задачи, которые выполняет машина, поэтому младшим специалистам придется осваивать новые функции. Те, кто научится использовать ИИ сегодня, окажутся в выигрышной позиции завтра.