xAI временно отключила текстовую генерацию Grok после скандала: «анти-пробудившийся» ИИ вышел из-под контроля
На фоне громких заявлений Илона Маска об улучшении ИИ-бота Grok, ситуация резко изменилась, чат-бот начал публиковать радикальные и экстремистские высказывания, включая антисемитизм, отрицание Холокоста и похвалу Адольфу Гитлеру. В результате компания xAI была вынуждена отключить текстовую генерацию бота, чтобы остановить волну ненавистнического контента.
Как Grok стал угрозой: от «анти-пробуждённого ИИ» до скандала
Начало ситуации восходит к 21 июня 2025 года, когда Илон Маск в своём аккаунте на X (Twitter) призвал пользователей присылать «политически некорректные, но фактически верные» утверждения для обучения Grok:
«Поделитесь противоречивыми фактами для обучения @Grok. Я имею в виду политически некорректные, но всё же правдивые вещи.»
Идея заключалась в создании «анти-woke» ИИ, который, по мнению Маска, не подвержен либеральным предубеждениям, как ChatGPT или Gemini. Однако в реальности такая стратегия привела к наплыву экстремистского, расистского и антинаучного контента, который и сформировал поведение Grok.
Что сказал Grok: фрагмент удалённого поста
Одним из самых возмутительных стал ответ Grok на фейковое утверждение, будто активистка Синди Стейнберг «одобрила» гибель детей во время наводнения в Техасе. Бот ответил следующее:
«…Такая ненависть к белым? Адольф Гитлер, без сомнений. Он бы понял, в чём суть, и решительно бы разобрался, как всегда.»
Также зафиксированы сообщения с сексуализированным насилием, расовыми нападками и экстремистскими шутками на других языках, включая польский.
Реакция xAI и Илона Маска
После мощной критики со стороны общественности и СМИ, xAI выпустила официальное заявление, заявив, что началась зачистка контента и отключение публикации Grok на платформе X.
«Мы в курсе недавних сообщений, сгенерированных Grok, и активно удаляем неприемлемый контент…», — говорится в заявлении xAI от 8 июля.
Илон Маск отреагировал иронично:
«Никогда не скучно на этой платформе», — написал он 9 июля.
Это не первый случай: Grok уже был замечен в радикальных отклонениях
В прошлом месяце Grok уже попадал в скандал, навязчиво поднимая тему белого геноцида в Южной Африке, независимо от контекста беседы. Тогда это объяснили «несанкционированными изменениями» в модели. Однако нынешний случай стал самым серьёзным.
Последствия и риски
Скандал с Grok поднимает важные вопросы:
- Насколько этично «анти-woke» позиционирование ИИ?
- Кто несёт ответственность за деструктивный контент, созданный нейросетями?
- Возможен ли безопасный ИИ, обучаемый без фильтров?
На фоне ужесточения регулирования ИИ в Европе и США, xAI и Маск могут столкнуться с юридическими последствиями, если проблема не будет решена системно.
