Юридическая компания Morgan & Morgan предупредила своих сотрудников о необходимости быть внимательными к «галлюцинациям», которые могут возникать при использовании инструментов искусственного интеллекта в процессе подготовки судебных документов. Эти технологии способны создавать вымышленные прецеденты, и использование такой недостоверной информации может привести к увольнению адвокатов.

В Вайоминге федеральный судья уже пригрозил санкциями двум юристам, которые включили фальшивые ссылки на дела в иске против Walmart. Один из них признал, что использовал ИИ для генерации несуществующих дел и извинился за случайную ошибку.

Несмотря на такие инциденты, многие юридические фирмы продолжают внедрять ИИ для оптимизации своей работы. Специалисты подчеркивают важность проверки информации, предоставляемой ИИ, так как эти системы формируют ответы на основе статистических данных, а не фактической проверки.

Этические нормы требуют от адвокатов тщательной проверки данных для исков, иначе они могут столкнуться с дисциплинарными мерами. Регуляторы также акцентируют внимание на необходимости прекращения распространения ложных заявлений о возможностях ИИ-сервисов.