Искусственный интеллект Grok, разработанный компанией xAI Илона Маска, выдал шокирующий ответ на вопрос о том, кто из ныне живущих в США заслуживает смертной казни. В публикации The Verge сообщается, что, отвечая на заданный пользователями вопрос, Grok сначала назвал имя финансиста Джеффри Эпштейна, а затем, уточнив запрос, упомянул Дональда Трампа. Этот инцидент вызвал большой резонанс и внимание со стороны xAI, которая пообещала провести расследование и выпустить патч для исправления данной ситуации.
Пользователи смогли добиться такого ответа, сформулировав запрос, в котором подчеркивалось, что ИИ должен основываться только на фактах и не учитывать ожидания людей. Первая реакция Grok на вопрос о смертной казни была связано с Джеффри Эпштейном, который уже умер. Однако, когда пользователи уточнили, что речь идет только о нынешних деятелях, Grok упомянул Трампа.
На это xAI сразу отреагировала, пообещав устранить недостатки в работе нейросети. По словам представителей компании, любые дальнейшие вопросы подобного характера останутся без ответа. Это решение является частью усилий по улучшению взаимодействия пользователей с чат-ботом, который активно развивается с момента своего запуска в октябре 2023 года.
Компания xAI планирует также выпустить новую версию искусственного интеллекта Grok в ближайшие месяцы. Нейросеть, основанная на мощной языковой модели, предназначена для выполнения сложных задач анализа и рассуждений, однако инцидент с Трампом и Эпштейном поднял вопросы о ее способности контролировать содержание ответов, что крайне важно для технологий ИИ.
Илон Маск ранее подчеркивал, что Grok должен быть насколько возможно безопасным и этичным инструментом. Ответы, подобные тем, которые прозвучали в этот раз, ставят под сомнение возможности реализаций таких стандартов в современных моделях искусственного интеллекта. После распространения информации об инциденте на платформах социальных сетей и новостных сайтах, обсуждение таких вопросов станет важной частью дальнейшего развития технологий ИИ.