Сообщество «Википедии» утвердило изменение правил, запрещающее использование нейросетей, таких как ChatGPT и Gemini, для создания и переработки текстов энциклопедии. Теперь редакторы могут применять ИИ только для узких целей, таких как проверка орфографии, базовая корректура собственных заметок или автоматический перевод с других языков.
Это решение стало результатом длительных обсуждений внутри сообщества. Основной причиной является несовместимость принципов работы современных LLM (Large Language Models) с основными правилами «Википедии». Платформа требует, чтобы информация опиралась на авторитетные источники и сохраняла нейтральную точку зрения, что противоречит особенностям нейросетей, склонных к «галлюцинациям». Обновленное руководство подчеркивает, что использование ИИ для генерации текстов приводит к систематическим нарушениям этих базовых принципов.
Тем не менее, редакторам не рекомендуют полагаться только на стилистические признаки в определении нарушений. Решения о том, нарушает ли текст правила, должны базироваться на фактической точности информации и ее соответствии проверяемым источникам. Пока что ограничение действует только в англоязычном сегменте, стремясь сохранить доверие читателей в условиях наплыва некачественного контента.
В последние месяцы редакторы «Википедии» активно создавали проекты, такие как WikiProject AI Cleanup, для очистки статей, сгенерированных нейросетями на начальном этапе их распространения. Это изменение кажется важным шагом в борьбе с фейковыми материалами и попыткой сохранить высокий уровень качества контента.
«Википедия» недавно отметила 25-летие, и новое правило нацелено на поддержку верифицируемого человеческого труда вместо быстрого генерации контента, который может содержать выдуманные факты. В то же время, несмотря на запрет, полный отказ от использования ИИ не предполагается. Авторы смогут применять нейросети для редактирования и перевода статей, однако после этого публикации подлежат строгой проверке.
Пользователи, которые активно участвуют в вычитке статей, теперь столкнутся с новыми трудностями, так как некоторые авторы могут писать в стиле, схожем с нейросетями. Поэтому модераторам было рекомендовано не опираться только на лингвистические признаки при оценке текстов. Эта ситуация также поднимает вопросы о том, сможет ли сообщество «Википедии» эффективно отслеживать нарушения, не отвлекаясь на написание новых материалов.