Европейская организация по защите цифровых прав Noyb сообщила о странном случае с ChatGPT, который выдал ложную информацию о норвежце Арве Хьялмаре Хольмене. Этот мужчина обратился к юристам Noyb, чтобы проверить, что чат-бот расскажет о нем. Он был шокирован, когда ChatGPT заявил, что он убил двоих своих детей и пытался убить третьего.
ChatGPT даже указал, что за эти преступления Хольмен был приговорен к 21 году тюремного заключения. Сам мужчина охарактеризовал это как “сочиненную историю ужасов”, клевету, которая может остаться в базе данных OpenAI. Юристы Noyb подтвердили, что не нашли доказательства вины Хольмена по указанным причинам.
После получения жалобы OpenAI убрала ложную информацию из выдачи ChatGPT. Однако в Noyb отметили, что разработчики только блокируют неверные результаты, не внося корректировки в исходные данные. Это вызывало опасения у Хольмена и его юристов, что клеветническая информация может быть вновь опубликована в будущем.
Из отчета Noyb следует, что ChatGPT правильно идентифицировал Хольмена как отца троих детей, но затем внезапно перешел к вымышленной истории об убийствах. Представители Noyb пытались выяснить, может ли существовать человек с таким же именем, однако они не нашли никаких упоминаний о преступлениях в газетных архивах.
Noyb подала жалобу норвежскому регулятору на OpenAI, хотя ChatGPT больше не отображает недостоверную информацию о Хольмене. Однако мужчина и Noyb продолжают выражать обеспокоенность тем, что фейковые данные могут появиться и у других пользователей, поскольку они могли сохраниться в массиве данных чат-бота.
Хольмен отметил: “Кто‑то может подумать, что нет дыма без огня. Самое страшное — это то, что люди могут поверить в правдивость этой информации”. Если регулятор подтвердит факт предоставления чат-ботом неточных данных о физических лицах, OpenAI рискует получить штраф согласно регламенту ЕС по защите данных GDPR.