В юридической среде участились случаи дисциплинарных мер против адвокатов, использующих генеративный ИИ для подготовки документов с несуществующими цитатами и делами. Причина — стремление сэкономить время и повсеместная интеграция ИИ в инструменты вроде LexisNexis и Westlaw. По данным опроса Thomson Reuters (2024), 63% юристов уже применяли ИИ, 12% делают это регулярно — в основном для анализа прецедентного права и подготовки резюме дел.

Проблема «галлюцинаций» сохраняется даже в платных функциях ChatGPT и специализированных правовых ИИ, что приводит к штрафам и аннулированию поданных документов. Примеры — дела против журналиста Тима Бёрка и компании Anthropic. Эксперты, включая декана Юридической школы Университета Саффолка Эндрю Перлмана, считают, что ИИ при правильной проверке может ускорить работу и снизить затраты, но не заменяет профессионального суждения. Американская ассоциация юристов в 2024 году выпустила первые рекомендации по использованию LLM, призывая к технологической компетентности и оценке рисков конфиденциальности.