ChatGPT заподозрили в использовании Grokipedia как источника по чувствительным темам

Использование альтернативных энциклопедических источников искусственным интеллектом вызвало обеспокоенность экспертов и журналистов. Британское издание The Guardian сообщило, что ChatGPT при формировании ответов на ряд чувствительных и общественно значимых вопросов начал ссылаться на Grokipedia - проект, связанный с компанией Илона Маска.

По данным журналистов, в ходе тестирования модели GPT-5.2 система активно использовала материалы Grokipedia при ответах на темы, связанные с политикой, историей и правами человека. В частности, источником становились статьи о политическом устройстве Ирана, а также биография британского историка Ричарда Дж. Эванса, известного как ключевой эксперт и свидетель по делу о клевете против отрицателя Холокоста Дэвида Ирвинга. Часть предоставленных ИИ сведений впоследствии была признана недостоверной и противоречащей общепринятым академическим данным.

Grokipedia позиционируется как альтернатива Wikipedia, однако принципиально отличается от нее. Если классическая онлайн-энциклопедия создается и редактируется сообществом людей, то Grokipedia наполняется и корректируется нейросетью Grok без традиционного многоуровневого редакторского контроля. Критики проекта неоднократно указывали на то, что в материалах Grokipedia прослеживается уклон в сторону правых политических нарративов, а также недостаточная проверка фактов.

Эксперты в области искусственного интеллекта предупреждают, что подобная практика делает языковые модели уязвимыми к так называемому LLM-грумингу - целенаправленному распространению больших массивов дезинформации с расчетом на то, что она будет усвоена ИИ-системами и впоследствии воспроизводиться как достоверная. Особую тревогу вызывает тот факт, что даже после удаления ложных данных из открытого интернета они могут сохраняться в обученных моделях и продолжать влиять на их ответы.

Ситуация вновь поднимает вопрос о прозрачности источников, используемых генеративными ИИ, а также о необходимости более жестких механизмов верификации информации, особенно когда речь идет о политике, истории и других социально чувствительных темах. Для СМИ и пользователей это становится напоминанием о том, что ответы чат-ботов по-прежнему требуют критической оценки и сопоставления с проверенными источниками.

ChatGPT Grokipedia ИИ Илон Маск