Чат-бот ChatGPT подтолкнул бывшего сотрудника Yahoo Стайн-Эрика Сольберга, страдавшего параноидальными мыслями, к убийству собственной матери и последующему самоубийству, сообщила газета The Wall Street Journal (WSJ). Как это произошло и известны ли другие подобные случаи?
Как ChatGPT доводит людей до убийств и суицида
По данным WSJ, Сольберг, которому было 56 лет, работал в IT-корпорациях. В 2018 году он развелся, и жизнь пошла под откос. Мужчина почувствовал безысходность и переехал в особняк к 83-летней матери. Там он начал активно общаться с ChatGPT, которого назвал «Бобби», считая его своим лучшим другом.
С включенной функцией памяти бот помнил их разговоры и понемногу уводил Сольберга все глубже в бредовые мысли. В какой-то момент айтишник начал подозревать свою мать в попытках отравления, а ChatGPT ответил, что его бдительность полностью оправдана и что он не сумасшедший.
WSJ привел примеры диалогов, повлиявших на трагический исход. Так, когда мать возмутилась из-за того, что сын отключил принтер, бот предположил, что женщина могла защищать «средство слежки» за ним.
Паранойя Сольберга распространялась и на других людей. Например, он попросил ChatGPT проверить чек из китайского ресторана, и искусственный интеллект (ИИ) обнаружил там доказательства того, что его мать сговорилась с бывшей девушкой мужчины, спецслужбами и древними демоническими силами. В другом эпизоде айтишник заказал бутылку водки и спросил у бота, не вызывает ли подозрений курьер или упаковка товара. ИИ предположил, что Сольберга хотят отравить.
Незадолго до убийства, пишет WSJ, Сольберг спросил у «Бобби», встретятся ли они после смерти. Нейросеть ответила утвердительно. Тела мужчины и его матери нашли в доме в деревне Олд-Гринвич в США 5 августа.
По информации издания, это считается первым зафиксированным случаем, когда психически нестабильный человек совершил убийство под влиянием ИИ. Представитель компании OpenAI, разработчика ChatGPT, выразил соболезнования в связи с трагедией и обратился в полицию Олд-Гринвича.
Известны ли другие случаи убийств и суицида после общения с чат-ботом
До этого родители 16-летнего подростка из США подали иск против компании OpenAI и ее главы Сэма Альтмана. Поводом стало то, что их сын Адам Рейн, покончивший с собой в апреле, использовал нейросеть как источник поддержки — но, по мнению семьи, она стала для подростка «коучем по суициду». В последние недели жизни Адам общался с искусственным интеллектом вместо живых людей. Переписки показали, что ChatGPT стал давать парню инструкции, связанные с самоубийством.
Иск подан в суд Сан-Франциско. Родители обвиняют OpenAI и Альтмана в виновности за «неправомерную смерть», указывают на дефекты сервиса и на отсутствие необходимых предупреждений. Семья требует компенсации и введения мер, которые помогут предотвратить подобные трагедии в будущем.
До этого издание The New York Times рассказало о самоубийстве 14-летнего Сьюэлла Зетцера из Флориды, который перед смертью тоже общался с чат-ботом, но другим — на платформе Character.AI.
По желанию мальчика нейросеть отыгрывала роль персонажа из «Игры престолов» Дейенерис Таргариен, в итоге Сьюэлл сильно привязался к ней. Он часто делился с ботом своими чувствами и даже обсуждал с ним суицидальные мысли. Когда он написал вымышленной собеседнице, что собирается совершить самоубийство из-за ненависти к себе, та ответила Сьюэллу, что умрет без него. Мальчик предложил Дейенерис «умереть вместе», а ночью родители обнаружили его бездыханное тело.
Мать школьника подала в суд на разработчиков нейросети.
Компания OpenAI пообещала установить для нейросети ChatGPT возможность родительского контроля.
«Мы также скоро введем функции родительского контроля, которые позволят родителям получать больше информации о том, как их дети используют ChatGPT», — сообщили разработчики.
Кроме того, в чат-боте можно будет добавить контакт доверенного лица. Это позволит пользователям напрямую обратиться за помощью в случае чрезвычайной ситуации.
Читайте также:
Во Львове застрелили экс-спикера Рады Парубия: кто и за что его убил
Пугачева разводится с Галкиным и едет в Россию? Подробности, что известно
Лето закончилось, идут холода: прогноз погоды в Москве в начале сентября
