В Калифорнии адвокат оказался в центре громкой истории. Он подал апелляцию в суд, в которой 90% ссылок на дела оказались выдумкой. Все цитаты придумал ChatGPT, сообщает Calmatters.
Апелляционный суд назвал такой шаг нарушением правил и назначил самый крупный штраф в штате. В решении судьи подчеркнули: любой документ должен содержать только проверенные ссылки, которые автор сам прочитал.
Я заплатил за свою ошибку, но надеюсь, что это станет уроком для других.
История вызвала резонанс. Судебный совет Калифорнии потребовал либо полностью запретить генеративный ИИ в судах, либо ввести четкие правила его применения. Ассоциация адвокатов обсуждает изменения в кодексе поведения.
Подобные случаи происходят все чаще. По данным исследователей, в начале 2025 года такие истории фиксировали несколько раз в месяц, сейчас — ежедневно. В США уже были дела, когда штрафы достигали десятков тысяч долларов. Более того, иногда вымышленные цитаты просачиваются даже в судебные постановления.
Ученые из Стэнфорда выяснили, что три четверти правозащитников планируют использовать ИИ в своей практике, хотя каждый третий запрос может содержать ошибку. Проблема в том, что модели уверенно «придумывают» факты там, где не хватает данных.
Эксперты уверены: ситуация будет обостряться. Многие начинающие юристы и студенты испытывают давление со стороны работодателей и вузов, которые требуют применять новые технологии. Пока у системы нет встроенного механизма проверки, ответственность за ошибки несет человек.
Как отметил профессор права из Калифорнийского университета в Лос-Анджелесе Марк Маккенна, такие штрафы — это наказание не за сам факт использования ИИ, а за отказ от профессиональной ответственности.
Ранее Наука Mail писала, что адвокатов поймали на использовании ИИ в деле об убийстве: нейросеть тоже выдала фальшивые источники.
