Ответы искусственного интеллекта и крах одной карьеры

Спроси у Стивена Шварца из Levidow, Levidow & Oberman — он теперь знает лично. Занавес поднимается над историей, в которой юрист с тремя десятилетиями практики на полном серьёзе судится с авиакомпанией Avianca, опираясь на судебные решения, которые существуют только в галлюцинациях генеративной нейросети. Это не сценарий чёрной комедии про юристов-неудачников. Это Нью-Йорк, федеральный суд, реальный штраф и максимально публичное падение.

Окружной судья Кевин Кастел не стал вдаваться в дискуссию про «трансформацию юридической профессии» и «новую этику работы с ИИ». Он просто выписал пять тысяч долларов штрафа и оставил публичное порицание — красный неоновый маркер на репутации размером с билборд на Таймс-сквер. Вот так и выглядит цена слепого доверия к алгоритму: карьерный хребет ломается не в замедленной съёмке, а с характерным сухим щелчком — как пластиковая пряжка на дешёвом ремне, который ты купил перед собеседованием в Google.

Иллюзия компетентности: как ChatGPT стал «соавтором» судебных исков

Ноябрь 2022-го. OpenAI выкатывает ChatGPT в публичный доступ, и интернет мгновенно делится на два лагеря: тех, кто кричит «конец юристов, копирайтеров и копирайтерских юристов», и тех, кто тихо подписывается и идёт проверять, можно ли это списать в рабочее время. Юридическое сообщество, как водится, отреагировало с фирменной смесью снобизма и любопытства: публично осудили, втихомолку попробовали. И вот тут начался настоящий прогрев.

Стивен Шварц, адвокат с более чем тридцатилетним стажем, взялся за дело Роберто Маты против Avianca — иск о травме, полученной на борту рейса. Казалось бы, классика: найди прецеденты по аналогичным искам, подкрепи позицию, выиграй или хотя бы зацепись за переговоры. Но вместо Westlaw, LexisNexis и привычных часов в библиотеке Шварц открыл окно чата и спросил у ChatGPT, какие судебные решения подходят к его делу. Чат-бот, как прилежный стажёр на кофеине, выдал целый букет.

Минимум шесть судебных прецедентов. С номерами дел. С цитатами из решений. С именами судей. С выводами. Всё выглядело настолько убедительно, что у Шварца, по его собственным позже признаниям, не возникло ни малейших сомнений. То есть вообще. Ноль. Пустота. Тишина. Нейросеть говорит уверенно — значит, по всей логике офисной культуры, можно не перепроверять.

Когда у оппонентов возникли вопросы к источникам, Шварц снова спросил ChatGPT, существует ли дело Varghese v. China South Airlines на самом деле. Чат-бот ответил: да, всё реально, расслабься.

Этот момент — ключевой. Нейросеть не просто один раз наврала: она подтвердила собственную ложь с той же интонацией, с которой делает прогноз погоды. Ни запинки, ни тревожной паузы, ни красной плашки «не могу проверить». Гладкий, как корпоративный пиар-релиз, текст. Для человека, который привык доверять печатному слову в официальных источниках, это звучит как стальная арматура. На деле — картонный макет.

Цена галлюцинаций: дело Mata v. Avianca и крах профессиональной репутации

Когда защита Avianca ткнула пальцем в несуществующие номера дел, началась та самая часть, которую обычно вырезают из тизеров и оставляют на полный метр. Оказалось, что:

• Varghese v. China South Airlines — нет такого дела в базах федеральных судов;
• Martinez v. Delta Air Lines — тоже выдумка;
• Petersen v. Iran Air — привет из нейросетевого воображения;
• и ещё несколько «прецедентов», которые выглядели как настоящие, но существовали ровно до первого запроса в PACER.

Двадцать второго июня 2023 года судья Кевин Кастел вынес решение: пять тысяч долларов штрафа на самого Шварца, его коллегу Питера ЛоДуку и юридическую фирму. Плюс письменное уведомление всем судьям, чьи имена нейросеть присвоила выдуманным решениям. Плюс публичное порицание, которое в мире больших юридических фирм работает как чёрная метка в Tinder — вроде жить можно, но матч уже не случится.

Сравни этот кейс с другим показательным случаем — Майклом Коэном, бывшим адвокатом Дональда Трампа. В 2023 году он передал своему защитнику цитаты из «судебных дел», которые ему сгенерировал Google Bard. Цитаты были такие же красивые, такие же уверенные и такие же фейковые. Разница — в финале: в марте 2024-го судья Джесси Фурман решил не штрафовать Коэна, потому что следствие не нашло злого умысла. То есть Коэн отделался испугом и публичным позором, а Шварц — деньгами и дисциплинарным следом в карьерном досье.

Два дела, два разных финала, одна и та же механика: нейросеть уверенно соврала, человек поверил, суд увидел. Разница только в том, насколько жёстко система отреагировала.

Эффект эха: почему даже опытные юристы попадают в ловушку алгоритмов

Самое вкусное здесь — не сами выдуманные прецеденты. Самое вкусное — это психология. Как человек с тридцатилетним стажем, который за свою карьеру прочитал тысячи реальных судебных актов, не распознал подделку? Ответ простой и неприятный: потому что корпоративный опыт и профессиональная интуиция в 2022–2023 годах начали тихо конфликтовать с новой привычкой доверять интерфейсу, который выглядит как поисковик, но работает как очень уверенный в себе фантазёр.

У этого эффекта есть три слоя:

1. Доверие к формату. У юридического прецедента жёсткая структура: номер дела, суд, истец, ответчик, формулировка решения. Когда нейросеть выдаёт текст в этой структуре, мозг опытного юриста автоматически переходит в режим «верю формату». Это та же самая дофаминовая петля, которая заставляет нас кликать на аккуратно оформленные баннеры в интернете — корпораты давно научились эксплуатировать узнаваемую визуальную упаковку.

2. Усталость от рутины. Поиск прецедентов — это многочасовая механическая работа. Когда на столе появляется инструмент, который выдаёт результат за секунды, рука сама тянется нажать «скопировать». Особенно если дедлайны горят, клиент пишет в мессенджере, а счёт за фирму тикает.

3. Иллюзия верификации. Шварц, по сути, попытался перепроверить — спросил у ChatGPT, реальное ли дело Varghese. Получил «да». Это классический феномен эхо-камеры: ты спрашиваешь у системы, подтверждает ли она сама себя, получаешь подтверждение и уходишь с ощущением, что провёл due diligence. На деле — просто поговорил с зеркалом.

И вот тут главный слом парадигмы. Вся юридическая система построена на том, что прецедент можно проверить: он опубликован, у него есть источник, его можно открыть и прочитать. Генеративная нейросеть этот фундамент аккуратно подменяет правдоподобной копией. Не злым умыслом, а банальной особенностью архитектуры: языковая модель предсказывает следующий токен, а не сверяется с базой данных.

Границы ответственности: почему ИИ не несёт наказания за ложь

Вот тут начинается территория, на которой у судей, юристов и регуляторов заметно подгорает. ChatGPT соврал — и ничего ему за это не будет. У него нет лицензии, которую можно отозвать. Нет адреса, по которому можно отправить повестку. Нет кармы, которую можно обнулить. Максимум — OpenAI внесёт правки в следующее обновление модели и напишет длинный пост в блоге о «мерах по снижению галлюцинаций».

Это создаёт юридический казус, который в старых учебниках по праву не описан. Ответственность всегда лежит на человеке: врач отвечает за диагноз, инженер — за расчёт, адвокат — за ссылку на прецедент. Нейросеть в этой цепочке — инструмент. Но инструмент, который умеет звучать увереннее живого собеседника. И именно в этой точке ломается старая логика: если раньше молоток не мог тебя обмануть, то теперь молоток разговаривает с тобой голосом профессора юриспруденции и при этом выдумывает цитаты на ходу.

Судья Кастел в решении по Mata v. Avianca прямо указал: адвокаты несут абсолютную обязанность проверять точность любых ссылок, которые попадают в судебные документы. Никакие ссылки на «современные технологии» и «экспериментальные методы работы» эту обязанность не снимают. То есть, грубо говоря, суд сказал: «Ты большой мальчик, ты подписался, проверяй». И это, кстати, единственно возможная позиция — потому что альтернатива (снять ответственность со специалиста, потому что ему помогла железяка) обнулит саму идею профессии.

Ответы искусственного интеллекта не имеют юридического адреса. За каждое слово, попавшее в иск, отвечает человек, который это слово туда вставил.

Это правило звучит банально, но вокруг него уже формируется новая профессиональная этика. Юридические фирмы одна за другой выпускают внутренние политики использования ИИ. Университеты обновляют курсы по юридическому письму. Суды в ряде юрисдикций начинают требовать от адвокатов раскрывать факт использования генеративных моделей при подготовке документов. Медленно, со скрипом, но движется.

Новая правовая реальность: верификация данных как обязательный навык

Что мы получаем по итогу? По сути, новый обязательный навык в каждой профессии, которая работает с текстом, цифрами и фактами: фактчекерство. Не то опциональное «ой, ну ладно, проверил в гугле», а полноценная процедура верификации, вшитая в рабочий процесс. Открыл ИИ-ответ — нашёл первоисточник — сверил формулировку — только после этого вставил в документ. Четыре шага, без которых теперь никуда.

Звучит как возврат в доцифровую эпоху, правда? Так и есть. Ирония ситуации в том, что чем умнее становятся генеративные нейросети, чем увереннее они звучат и чем качественнее имитируют стиль официальных документов, тем больше ручной проверки требуется на выходе. Каждый новый релиз GPT, Claude и Bard — это одновременно ускорение черновой работы и рост стоимости финальной проверки. Прогрев, как любят говорить в стартапах, и контрпрогрев, как шёпотом отвечают юристы.

Ещё один неочевидный эффект — перераспределение ценности в профессии. Раньше главным активом юриста была скорость поиска информации. Теперь — скорость её проверки. Адвокат, который умеет за минуту пробить выдуманный прецедент в PACER и написать грамотное возражение, дороже адвоката, который за минуту вытаскивает из нейросети десять «красивых» ссылок. И эта переоценка навыков уже происходит — просто тихо, без пресс-релизов и корпоративных блогов.

Как не стать следующим Шварцем: практическая инструкция для тех, кто работает с ИИ

Здесь без длинных абзацев, коротко и по делу. Если ты используешь генеративную нейросеть в работе с фактами, вот минимальный набор привычек, который отделяет тебя от публичного позора и штрафа:

1. Не доверяй формату. Чем аккуратнее выглядит ответ ИИ — тем внимательнее его проверяй. Уверенный тон языковой модели — это не признак истины, это признак хорошей имитации истины.

2. Сверяй первоисточник. Любой кейс, цитату, цифру, дату — открывай в оригинальной базе данных. PACER для американских судов, e-library для нормативки, первоисточники для статистики. Без этого шага ты не работаешь, ты гадаешь.

3. Разделяй черновик и финал. Нейросеть имеет право писать черновые варианты, тезисы, формулировки. Финальный документ — это всегда твоя ответственность, твоя подпись, твоя репутация.

4. Фиксируй использование ИИ. Если внутренняя политика требует указать, что часть работы сделана с помощью генеративной модели — укажи. Это не подпись в слабости, это подпись в профессионализме.

5. Проверяй мета-проверкой. Если ты переспрашиваешь у той же нейросети, подтверждает ли она свои слова — ты не проверяешь, ты разговариваешь с эхом. Для настоящей верификации нужен внешний источник, не внутренний собеседник.

Всё это звучит как набор прописных истин, и именно поэтому история Шварца будет повторяться. Потому что прописные истины работают только тогда, когда их применяют, а не тогда, когда их согласны прочитать.

Корпораты продолжат встраивать ИИ в рабочие процессы, стартапы продолжат обещать, что «наш чат-бот не галлюцинирует», а юристы, журналисты, аналитики и копирайтеры продолжат раз в квартал попадать в историю, потому что где-то забыли нажать кнопку «проверить первоисточник». Дело Mata v. Avianca — это не аномалия и не страшилка. Это первая публичная версия сценария, который будет повторяться до тех пор, пока в профессиональных стандартах верификация фактов не встанет в один ряд с самим фактом их производства. До тех пор — добро пожаловать в эпоху, где самый опасный сотрудник в офисе — не тот, кто не умеет пользоваться нейросетью, а тот, кто умеет, но забывает её перепроверять.