Верховный суд наложил штраф на адвоката за использование ChatGPT в ходе судебного разбирательства по делу об убийстве

Верховный суд штата Нью-Мексико недавно признал адвоката из Санта-Фе Стивена Ааронса виновным в неуважении к суду после того, как он представил апелляционную записку, содержавшую показания и свидетелей, вымышленных ChatGPT. В прошлом году Ааронс защищал клиента, осуждённого за убийство, и воспользовался чат-ботом для обобщения материалов судебного разбирательства, после чего подал полученный документ без какой-либо предварительной корректуры. В апелляционной жалобе содержались заявления, приписываемые несуществующим свидетелям, а также сфабрикованные высказывания, ложно приписанные реальному свидетелю.

Реакция суда была резкой. Судья К. Шеннон Бэкон прямо спросила Ааронса, следит ли он вообще за новостями, учитывая, как часто «галлюцинации» искусственного интеллекта в судебных документах попадают в заголовки, и высказала предположение, что он либо игнорировал это явление, либо безрассудно рисковал делом своего клиента. Ааронс, практикующий в области права более четырёх десятилетий, признал свою «глупость», добавив, что ошибочно полагал, будто программное обеспечение сгенерирует надёжное резюме.

Помимо выговора суд наложил штраф в размере 5 000 долларов, подлежащий уплате в фонд защиты клиентов, и передал дело в дисциплинарную комиссию адвокатов штата. Данное дело стало очередным из ряда случаев, когда адвокаты подвергались санкциям или дисциплинарному расследованию после представления в суде непроверенных материалов, сгенерированных искусственным интеллектом (1, 2, 3).