В США зафиксирован случай подачи дипфейка в качестве доказательства в суде

Фото: Getty Images

В США судьи все чаще сталкиваются с поддельными материалами, созданными искусственным интеллектом. Дипфейковые видео, изменённые голоса и фальшивые документы попадают в судебные дела, из-за чего судьям приходится внимательнее проверять доказательства. Это дополнительно замедляет работу системы, которая и так перегружена. Об этом сообщает NBC News.

Отмечается, что один из самых показательных случаев произошёл в Калифорнии в рамках жилищного спора Mendones v. Cushman & Wakefield. Судья Виктория Колаковски заподозрила, что видеосвидетельство, представленное адвокатами одной из сторон, было создано ИИ. Основаниями стали монотонный голос, размытые черты лица и неестественно повторяющиеся мимические движения. По словам судьи, видео имело очевидные признаки генеративной обработки. В сентябре Колаковски отклонила иск, а в ноябре - во второй раз отказала в его возобновлении.

По мнению экспертов, этот инцидент является одним из первых зафиксированных случаев, когда дипфейк был представлен как настоящее свидетельство. Специалисты предупреждают, что волна ИИ-фальсификаций только усиливается, а система правосудия не успевает адаптироваться.

Был случай, когда американский юрист получил штраф в $15 000 за подачу документов с вымышленными ссылками на несуществующие дела, которые сгенерировал ИИ. Судьи подчёркивают, что опасность шире, поскольку ИИ-голоса могут быть использованы для создания фальшивых угрожающих записей, а поддельные документы способны незаметно попадать в официальные материалы.

Однако формальных протоколов работы с ИИ-доказательствами до сих пор нет. Организации вроде National Center for State Courts лишь предлагают судьям контрольные списки для проверки происхождения и подлинности материалов.

Карпова Рада
Журналист AOinform