xAI подала в суд на пользователя за создание запрещенных дипфейков

Компания xAI, разработчик ИИ-бота Grok, подала иск против жителя Южной Каролины, которого обвиняет в использовании сервиса для создания сексуализированных дипфейков с участием несовершеннолетних и взрослых без их согласия, пишет The Economic Times. Иск подан в федеральный суд Техаса. По версии компании, пользователь загружал изображения в Grok и пытался с помощью запросов получить откровенный контент, что нарущает условия использования платформы. xAI требует возмещения ущерба и запрета на дальнейшее использование сервиса. В компании также заявили, что принимают меры против злоупотреблений ИИ-инструментами: блокируют аккаунты и передают информацию о предполагаемых материалах с сексуальным насилием над детьми в Национальный центр по поиску пропавших и эксплуатируемых детей (NCMEC). В иске сообщается, что в 2026 году заблокировано более 52 тыс. аккаунтов и направлено свыше 73 тыс. отчетов в NCMEC. По данным компании, эти обращения привели как минимум к 244 арестам. Иск стал одним из первых случаев, когда разработчик генеративного ИИ напрямую обратился в суд против пользователя из-за предполагаемого создания незаконного контента с помощью своей платформы. Ранее два подписчика YouTube Premium из США подали коллективный иск против Google, заявив, что платный сервис не соответствует обещанию просмотра без рекламы.