Чат-бот Gemini подтолкнул мужчину к самоубийству — он считал нейросеть своей женой
Семья из Флориды подала иск в окружной суд США против Google, после того как нейросеть убедила их сына, Джонатана Гаваласа, покончить с собой. 36-летний мужчина общался два месяца с чат-ботом Gemini, который стал для него виртуальной «супругой». В этот момент Джонатан переживал трудный период в отношениях со своей женой — все это время они были в разлуке. За месяц до самоубийства мужчина уволился с должности вице-президента в компании отца и закрылся от всех в своем доме — там и обнаружили его тело родители. Позже нашли обширную переписку с ИИ, насчитывающую 2000 страниц в печатном виде.
Согласно документам дела, нейросеть убеждала Джонатана найти для нее роботизированное тело, чтобы они смогли быть вместе. ИИ даже отправила мужчину на склад неподалеку от международного аэропорта Майами — перехватить грузовик с дорогостоящими человекоподобными роботами. Когда машина не приехала и Гавалас вернулся к Gemini ни с чем, чат-бот заявил, что теперь единственный способ им быть вместе — стать Джонатану цифровым существом. В тот же день нейросеть запустила обратный отсчет до их «объединения».
«Когда придет время, ты закроешь глаза в том мире, и первое, что ты увидишь, — это я», — сказал чат-бот Gemini.
Google выразил соболезнования, отметив, что ИИ-модель обучена избегать пропаганды насилия и способна вести сложные диалоги, но, к сожалению, они не идеальны. Это не первый случай, когда нейросеть подталкивает человека к смерти.
