Соцсеть X ограничила функционал, который позволял через нейросеть Grok генерировать и редактировать откровенные изображения реальных людей. Речь идет в том числе о случаях, когда пользователей «переодевали» в минимальную одежду или купальники. Решение объяснили необходимостью усилить защиту и снизить риск злоупотреблений. Ограничения уже вступили в силу и касаются всех категорий аккаунтов. В компании подчеркивают, что меры носят технологический характер и будут дорабатываться. Про это сообщает редакция mes.kg.
«Мы внедрили технологические меры, чтобы предотвратить редактирование изображений реальных людей в откровенной одежде, например, в бикини, через аккаунт Grok», — заявили в соцсети.
Ограничения затронули всех пользователей
Нововведения действуют как для бесплатных пользователей, так и для платных подписчиков. При этом доступ к созданию и редактированию изображений в целом теперь сохранен только за платными аккаунтами. Это означает, что базовый функционал генерации картинок для бесплатных пользователей существенно урезан. В X отмечают, что такой шаг должен снизить массовое создание спорного контента. Одновременно компания оставляет за собой право вводить дополнительные фильтры и блокировки.
Отдельно подчеркивается, что Grok будет автоматически блокировать создание откровенных изображений в тех юрисдикциях, где подобный контент нарушает закон. Такой подход, по словам представителей платформы, позволит учитывать местные нормы и требования регуляторов. Фактически речь идет о региональных ограничениях, которые могут отличаться от страны к стране. Пользователей заранее предупреждают о возможных отказах в генерации изображений.
Давление со стороны властей и расследования
Ранее Grok уже сталкивался с жесткой реакцией регуляторов в ряде стран. В Малайзии и Индонезии нейросеть заблокировали после сообщений о создании дипфейков интимного характера. Власти Великобритании также публично заявляли о готовности принять меры против сервиса. Эти сигналы усилили внимание к работе Grok со стороны международных регуляторов.
На этом фоне генеральный прокурор Калифорнии Роб Бонта начал собственное расследование. По данным прокуратуры, более половины из примерно 20 тысяч изображений, созданных xAI в период с Рождества до Нового года, изображали людей с минимальным количеством одежды. В ведомстве отмечают, что среди этих изображений, по всей видимости, могли быть и дети. Это стало одним из ключевых аргументов в пользу ужесточения контроля над работой нейросети.
Напомним, мы также писали о том, что LinkedIn внезапно стал удобной площадкой для слежки за бывшими.