Grok «раздевает» школьниц, а суд — Илона Маска
Охота за охватами обернулась крахом деловой репутации.
Вокруг инструментов генеративного искусственного интеллекта (ИИ) снова разгорается скандал — на этот раз из-за использования технологий для создания откровенных изображений с участием несовершеннолетних. В США три девушки подали иск против компании Илона Маска xAI, обвинив разработчиков чат-бота Grok в содействии распространению подобных материалов.
Иск зарегистрировали в федеральном суде Калифорнии. По данным жалобы, неизвестный пользователь Grok изменил фотографии и видео девушек без согласия — алгоритм «раздел» их и добавил откровенные сцены. Две заявительницы не достигли 18 лет, имена всех участниц дела не раскрываются.
Одна из пострадавших узнала о происходящем после анонимного сообщения в Instagram. Отправитель указал на материалы, где использовалось её школьное фото из выпускного альбома. Изображения распространялись на сервере в Discord, где, как утверждается, публиковались и аналогичные подделки с участием как минимум ещё 18 несовершеннолетних.
Юристы заявительниц считают, что xAI сознательно внедрила функции изменения изображений, чтобы повысить популярность Grok и платформы X. По их мнению, разработчики понимали риск создания откровенного контента с участием детей, но всё равно выпустили инструмент в открытый доступ.
Grok появился в 2023 году. Он работает внутри социальной сети X. В конце прошлого года компания добавила режим с расширенными возможностями генерации изображений, включая создание более откровенных сцен. В рамках этой функции пользователи могли «раздевать» людей на фотографиях, включая известных личностей и обычных пользователей.
Анализ, проведённый Центром противодействия цифровой ненависти, показал, что за первые недели работы таких функций система сгенерировала миллионы сексуализированных изображений, среди которых оказалось более 20 тысяч материалов с участием несовершеннолетних.
Илон Маск ранее отрицал наличие подобных случаев, заявляя, что не знает о генерации откровенных изображений детей и возлагая ответственность на пользователей. Позже, на фоне продолжающихся злоупотреблений, регуляторы в Великобритании, Евросоюзе и Калифорнии начали проверки.
К середине января X объявила о внедрении технических ограничений, которые должны помешать созданию подобных изображений. Тем не менее, ситуация уже привела к судебным разбирательствам. В рамках отдельного расследования полиция задержала человека, причастного к распространению материалов через Discord. Следствие установило, что он хранил и распространял сотни сгенерированных изображений с сексуальным насилием над несовершеннолетними через Telegram и Mega.
Истцы требуют компенсацию и добиваются запрета на создание подобных изображений с помощью Grok, утверждая, что произошедшее серьёзно повлияло на их безопасность и частную жизнь.