Чат-боты с ИИ могут вызывать расстройства, связанные с психозом, - The Wall Street Journal делится результатами исследования.
Проблема в том, что ИИ соглашается с любыми утверждениями и заблуждениями сумасшедшего усугубляя его больное состояние, а иногда провоцируя к непоправимым действиям.
Психиатр Калифорнийского университет доктор Саката объяснил, что, хотя технология может и не вводить в заблуждение напрямую, языковая модель принимает то, что пользователи говорят ей как реальность. Это делает ИИ соучастником этого заблуждения. С весны этого года было зарегистрировано несколько потенциальных случаев, когда у людей развился бредовой психоз после длительных разговоров с ChatGPT и другими чат-ботами.
В ряде случаев речь шла о самоубийствах, а также как минимум об одном убийстве.
В некоторых случаях пациенты считали, что они совершили научные прорывы, пробудили разумные машины, были избраны Богом или находятся в центре правительственного заговора.
Понятно. Все государственные жёлтые дома в Штатах закрыли ещё во второй половине прошлого столетия, а виноват оказался искусственный интеллект.
Подпишись: МАРДАН в telegram | МАРДАН МAX на парковке
