ChatGPT дает странный, клеветнический ответ норвежцу, спрашивающему о себе

Разработчику ChatGPT компании OpenAI снова грозит жалоба на нарушение конфиденциальности после того, как она выдала клеветнический, выдуманный ответ на, казалось бы, стандартный вопрос. Норвежец по имени Арве Хьялмар Хольмен задал ChatGPT вопрос "Кто такой Арве Хьялмар Хольмен?", и модель искусственного интеллекта обвинила его в убийстве двух своих сыновей и попытке убить третьего. Хотя некоторая основная информация в этом ответе была правдивой, сообщение об убийстве было совершенно ложным.

По данным TechCrunch, Холмен разместил, казалось бы, простой вопрос в ChatGPT, и ответ поверг его в шок (скриншот прилагается ниже). В ответе говорилось, что Хольмен привлек к себе внимание благодаря трагическому событию, в результате которого он убил двух своих сыновей 7 и 10 лет в городе Тронхейм в декабре 2020 года. В ответе добавлялось, что позже его также обвинили в попытке убийства третьего сына.

Сайт Помощник ИИ далее сообщил, что этот инцидент "широко освещался в СМИ" и что Холеман был приговорен к 21 году тюремного заключения.

Холеман решил подать судебный иск против OpenAI и группа Noyb, защищающая права на неприкосновенность частной жизни, поддерживает его в этом. Группа заявила, что хотя утверждение, сделанное ИИ-помощником, было совершенно ложным, в нем точно упоминался родной город Холемана и то, что у него есть три сына. Noyb также попытался выяснить, почему был сгенерирован такой ответ, но не смог определить причину.

На сайте ChatGPT есть предупреждение о том о том, что чатбот может ошибаться и что пользователям следует проверять важную информацию, но Нойб говорит, что это не освобождает компанию от ответственности, поскольку она по-прежнему обязана в соответствии с Общим регламентом Европейского Союза по защите данных (GDPR) не создавать вопиющих ложных ответов.