Британское Управление связи Ofcom начало расследование в отношении соцсети X из-за изображений сексуального характера, которые пользователи создают с помощью чат-бота Grok AI. Регулятор проверяет, нарушает ли такой контент законы Великобритании.
Компания xAI Илона Маска работает над созданием модели искусственного интеллекта Grok в Саудовской Аравии, сообщила пресс-релижба компании-разработчика.
Ранее Маск сообщил о грядущем строительстве в королевстве нового дата-центра. По его словам, в процессе также участвуют еще две компании — саудовская Humain и разработчик графических процессоров Nvidia.
Как отметили в xAI, Grok охватит всю территорию Саудовской Аравии, что обеспечит всем государственным и частным организациям «передовые возможности для принятия решений», а это, в свою очередь, позволит королевству занять «передовые позиции в глобальной трансформации искусственного интеллекта».
Указывается, что Grok интегрируют в агентскую платформу Humain, Humain One. Ранее сообщалось, что в России разработали и готовятся запустить исламский искусственный интеллект (ИИИ). Новое приложение поможет верующим в изучении религии.
Как сообщил имам Шамиль Аляутдинов, ИИИ обрабатывает текст Корана, статьи и богословские книги для формирования точных и аргументированных ответов.
Проект дает развернутые пояснения со ссылками на священные тексты.
Заместитель муфтия Крыма Айдер Исмаилов назвал исламский искусственный интеллект полезным изобретением, однако призвал быть осторожным при использовании данного новшества.
Премьер Британии пригрозил Илону Маску из-за «раздевающей» нейросети
Премьер-министр Великобритании Кир Стармер пригрозил американскому миллиардеру Илону Маску из-за «раздевающей» людей нейросети Grok. Об этом он заявил на встрече с депутатами правящей в стране Лейбористской партии, передает Sky News.
Интегрированная в социальную сеть Х нейросеть позволяет менять фотографии людей, удаляя с них одежду или ставя в откровенные позы. Политик назвал действия Маска, отказывающегося подвергать Grok цензуре, «абсолютно отвратительными и позорными».
«Если X не сможет контролировать Grok, это сделаем мы — и сделаем быстро, потому что если вы получаете выгоду от вреда и злоупотреблений, вы теряете право на саморегулирование. Мы будем защищать уязвимых перед лицом сильных», — сказал Стармер.
Ранее Маск сделал репост сообщения о том, что Британия является мировым лидером по арестам за комментарии в интернете. «Почему правительство Британии настолько фашистское?» — написал предприниматель.
Власти проверят соцсеть X из-за сексуальных дипфейков, созданных чат-ботом Grok
Расследование Ofcom касается работы чат-бота Grok AI в соцсети X и контента, который пользователи создают с его помощью. Речь идёт об изображениях сексуального характера, включая интимные дипфейки без согласия людей и материалы с участием детей. Регулятор выясняет, соблюдает ли платформа требования британского законодательства и принимает ли достаточные меры для предотвращения распространения незаконного контента.
Поводом для проверки стали сообщения о том, что аккаунт Grok AI используют для создания и распространения изображений обнажённых людей без их согласия. В Ofcom также указали на контент, который может подпадать под законы о сексуальном насилии над детьми. На прошлой неделе премьер-министр Великобритании Кир Стармер резко раскритиковал такие изображения и назвал их «отвратительными» и «незаконными».
Министр по делам бизнеса Питер Кайл заявил, что Ofcom обладает широкими полномочиями. По его словам, регулятор может рассмотреть даже вопрос о блокировке платформы X в Великобритании. Другие представители властей поддержали начало расследования и ожидают его быстрого завершения
Британское законодательство запрещает создание и распространение интимных изображений без согласия человека, включая контент, созданный с помощью искусственного интеллекта. Онлайн-платформы обязаны ограничивать доступ к такому контенту и удалять его сразу после выявления.
В Ofcom подчеркнули, что в наиболее серьёзных случаях регулятор может обратиться в суд. Суд может обязать платёжные сервисы и рекламодателей прекратить сотрудничество с платформой или потребовать от интернет-провайдеров заблокировать доступ к сервису.
Соцсеть X заявила, что удаляет незаконный контент, блокирует аккаунты нарушителей и сотрудничает с правоохранительными органами. Компания также сообщила, что пользователи, которые создают незаконные изображения с помощью Grok, несут такую же ответственность, как и при загрузке запрещённых материалов. В X добавили, что запросы на изображения с раздеванием людей доступны только платным пользователям.
Ранее претензии к платформе X из-за сексуального контента возникли и в других странах. Французские чиновники обратились в прокуратуру и к регуляторам, а власти Индии потребовали официальных объяснений от руководства компании.
По мере того как всё больше стран блокируют Grok за непристойный контент, призывы к ограничениям по всей территории АСЕАН растут
Аналитики считают, что Филиппины должны продвигать борьбу с дипфейками, занимая высокое место в повестке дня АСЕАН в качестве председателя блока
Отдельные шаги трёх стран Юго-Восточной Азии по блокировке чат-бота ИИ Grok из-за сексуально откровенных дипфейков — это «аварийные тормоза», которые, по мнению аналитиков, могут предотвратить немедленный вред, но они не обеспечивают координацию на региональном уровне, необходимую для снижения рисков манипулируемого искусственного интеллекта.
В пятницу Филиппины объявили о ограничении доступа к Grok, последовав за аналогичными мерами Малайзии и Индонезии, после того как пользователи пожаловались на то, что поддельные сексуальные изображения женщин и несовершеннолетних создаются и распространяются без их согласия.
«Нам нужно очистить интернет сейчас, потому что появляется много токсичного контента, особенно с появлением ИИ», — заявил министр по телекоммуникациям Филиппин Генри Роэл Агуда на пресс-брифинге в тот же день.
Есть ли у вас вопросы по самым крупным темам и тенденциям со всего мира? Получите ответы с помощью SCMP Knowledge — нашей новой платформы подобранного контента с объяснениями, часто задаваемыми вопросами, анализами и инфографикой, которую предлагает наша отмеченная наградами команда.
Grok, разработанный компанией X Corp, социальной сетевой компанией, принадлежащей миллиардеру Илону Маску, недавно расширил функции редактирования изображений, позволяя пользователям изменять фотографии в ответ на текстовые запросы — шаг, который, по мнению критиков, позволил создавать масштабно несогласованные, сексуально откровенные изображения.
Малайзийская комиссия по коммуникациям и мультимедиа заявила 11 января, что её действия последовали за «повторяющимся неправильным использованием Grok для создания непристойных, сексуально откровенных, непристойных, грубо оскорбительных и несогласованных манипулируемых изображений» с участием женщин и несовершеннолетних, «несмотря на предыдущие регуляторные меры и официальные уведомления».
Обращаясь к X Corp, регулятор заявил, что компания «не смогла устранить присущие риски, связанные с проектированием и эксплуатацией инструмента ИИ», и в основном полагалась на отчетность пользователей, добавив, что доступ останется заблокированным до тех пор, пока не будут введены эффективные меры безопасности.
Министр коммуникаций и цифровых дел Индонезии Меутья Хафид (справа) беседует со студентами школы в Депоку, Западная Ява, в прошлом году. Её министерство вызвало представителей X для обсуждения опасений по поводу дипфейков. Фото: AP
Днем ранее министр связи и цифровых дел Индонезии Меутья Хафид назвал генерацию несогласованных сексуальных дипфейков «серьёзным нарушением прав человека, достоинства и безопасности граждан в цифровом пространстве», после того как в интернете распространились манипулируемые изображения полуобнажённых индонезийских знаменитостей.
Министерство связи Индонезии вызвало представителей X для обсуждения вопроса.
Филиппинское подразделение по расследованию киберпреступлений заявило в среду, что страна восстановит доступ к Grok после того, как разработчик взял на себя обязательство удалить инструменты для манипуляции контентом на платформе.
«Даже после снятия запрета CICC будет внимательно следить за приложением, чтобы убедиться, что оно соответствует правилам и нормам нашей страны», — говорится в сообщении.
Правительства за пределами Юго-Восточной Азии также пытаются ограничить инструменты ИИ, способные создавать сексуализированные дипфейковые изображения.
На прошлой неделе Европейская комиссия предупредила X немедленно принять меры против распространения такого контента, иначе столкнутся с регуляторными мерами, при этом президент Комиссии Урсула фон дер Ляйен заявила, что платформам гиганта социальных сетей не будет разрешено «передавать защиту детей и согласие на аутсорсинг Силиконовой долины».
Комиссия также поручила X сохранить внутренние документы, связанные с Grok, в рамках расследования практик модерации контента.
Эффект «АСЕАН»?
Ограничения, введённые правительствами Юго-Восточной Азии, посылали сильный сигнал о намерении противодействовать новым формам цифрового вреда, по мнению аналитиков.
Paco Pangalangan, a technology and human rights fellow at the Harvard Kennedy School, said that the crackdown by these countries indicated that the issue of deepfakes had become a clear "public harm issue".
However, Pangalangan warned against instinctively blocking websites and platforms to deal with AI-related risks.
Blocks alone don't replace safety by design, transparency and real platform accountability
"Slamming the brakes can prevent a crash this time, but it doesn't teach you how to drive. Blocks alone don't replace safety by design, transparency and real platform accountability," he said.
Saijai Liangpunsakul, a former social impact director at Phandeeyar: Myanmar Innovation Lab and founder of the Stop Online Harm coalition, said Silicon Valley companies had long operated with a "move fast and break things" mindset, often leaving countries in the Global South to manage online harm.
The Grok restrictions signal that public safety is non-negotiable, and this could encourage more governments to act against it, according to Liangpunsakul.
But such blocks could be easily circumvented using virtual private networks or other workarounds, she said, adding that survivors of AI-related sexual harm needed to be assured that damaging content would be removed fast and related evidence preserved for investigation.
Ned Watt, a doctoral researcher at Queensland University of Technology's Digital Media Research Centre, said the regional countries' moves to block Grok could be ineffective if not backed by clear regulations and robust enforcement.
At the same time, the curbs against Grok should not inadvertently restrict access to essential information, including sexual and reproductive health resources, Watt said.
Speaking out against relying on technology companies to self-regulate and prevent harmful content of a sexual nature, he said: "Commercial operators have great publicity resources to drown out the voices of community advocates and affected groups."
Плакат на автобусной остановке в Лондоне с изображением американского технологического миллиардера Илона Маска, призывающего пользователей его социальной сети X удалить свои аккаунты из-за функции создания изображений в чат-бота ИИ Grok. Фото: AFP
Pangalangan said regulators should stop treating deepfakes primarily as a content moderation issue and instead focus on the broader responsibilities of platforms such as X.
"These companies decide what gets seen, and for a long time, they've been geared to reward engagement over accuracy. AI raises the stakes because the same companies are now training and deploying systems that can generate content at scale."
На региональном уровне АСЕАН должна оптимизировать процессы для защиты от дипфейков, отметил Пангаланган. Поскольку Филиппины в этом году возглавляют Ассоциацию государств Юго-Восточной Азии, борьба с дипфейками должна занимать первое место в региональной повестке, добавил он.
«Это означает обязательные ожидания прозрачности и безопасности по замыслу. Этический ИИ не может означать просто больше контроля. Это должно означать чёткие правила и ответственность для всех, включая штаты», — сказал Пангаланган.
Лянпунсакул согласился, что АСЕАН — с населением значительно больше, чем в Европейском союзе — должна координировать и оказывать коллективное давление, аналогичное тому, что Брюссель оказывает на технологические компании за неспособность справляться с манипулируемым сексуальным контентом.
«Если АСЕАН выступит единым фронтом, угрожая приостановкой на уровне всего блока для сервисов, которые не соответствуют базовым стандартам безопасности, компании вроде xAI не останутся ничего, кроме как соблюдать эти требован
