Компания OpenAI оказалась в центре скандала: разработанный ею ChatGPT приписывает реальным людям серьезные преступления.
Австрийская газета Der Standart описывает случай с норвежцем Арве Холменом, который решил проверить, что о нем знает ChatGPT. ИИ обвинил его в убийстве двух своих детей и попытке убить третьего. По данным чат-бота, мужчина якобы получил 21 год тюрьмы. Обвинения были полностью ложными, но часть информации оказалось правдивой: имена, пол и количество детей, а также название родного города.
«Тот факт, что кто-то может прочитать этот контент и поверить в его правдивость, пугает меня больше всего», — заявил Холмен.
Похожие истории уже случались. Мэра одного из австралийских городов чат-бот обвинил в коррупционном скандале, а немецкого журналиста — в жестоком обращении с детьми.
Дело в том, что современные модели ИИ подвержены «галлюцинациям» — они могут «догадываться» или «придумывать» ответ, основываясь на контексте.
Австрийская организация по защите данных подала жалобу, утверждая, что такие «галлюцинации» ИИ нарушают регламент по защите данных. Кроме того, OpenAI не предоставляет механизмов для исправления ошибок, а лишь предупреждает, что ИИ может ошибаться.
