ИИ активно продвигают в юридической сфере, несмотря на частые ошибки алгоритмов в суде

IT-компании активно продвигают искусственный интеллект в юридическую сферу, несмотря на частые ошибки алгоритмов в суде, пишет портал Engadget.

В этом году сразу три крупных разработчика представили или анонсировали специальные продукты для юристов. В конце августа Google запустил тестирование Gemini Enterprise for Legal с участием четырех ведущих мировых юридических фирм.

Anthropic ранее выпустила решение Claude Legal Solutions, а компания Илона Маска SpaceXAI создала отдельную страницу юридических сервисов. Разработчики продвигают подобные нейросети вопреки многочисленным скандалам, когда адвокатов штрафовали за использование нейросетей, придумывавших несуществующие прецеденты и законы.

В базе данных исследователя Дамьена Шарлотена зафиксировано почти 2000 подобных случаев по всему миру. Так, юриста Шахрияра Мазахери в Канаде обязали выплатить десятки тысяч долларов за использование Grok, который сгенерировал фальшивые цитаты. С аналогичными проблемами столкнулась даже крупная американская фирма Sullivan & Cromwell, подавшая в суд документ с 42 выдуманными ИИ ссылками.

Чтобы решить проблему ложных данных, Google и Anthropic подключают свои ИИ-модели к внешним проверенным базам данных, таким как Everlaw и NetDocuments. Это позволяет системе брать информацию из реальных источников, а не генерировать ее из памяти.

Впрочем, даже у специализированных платформ уровень ошибок остается ощутимым. Эксперты напоминают, что правила профессиональной этики обязывают юристов лично проверять все ссылки перед подачей документов в суд, поэтому ответственность с адвокатов не снимается.

Нашли ошибку в публикации? Сообщите нам об этом.