Одна из опасностей нейросетей заключается в том, что с их помощью мошенники могут копировать поведение конкретных людей, отметил в беседе с NEWS.ru руководитель образовательной программы «Искусственный интеллект» НИЯУ МИФИ Роман Душкин. Так он прокомментировал эксперимент ученых из Стэнфордского университета, которые с помощью большой языковой модели ChatGPT смогли создать цифровые копии более чем тысячи личностей, точность которых они оценили в 85%.
Мы можем скопировать профиль человека по его ответам на какие-то вопросы, по репликам в социальных сетях, по каким угодно текстам, которые он оставляет в рамках своего цифрового следа. Здесь речь идет о чем? Что злоумышленник потенциально может набрать тексты своей жертвы и скормить их GPT-модели, а потом пытаться расспрашивать ее о каких-то вещах, то есть профилировать человека. Вот это действительно может быть очень опасным, — пояснил эксперт.
По его словам, сейчас самое время задуматься о том, нужно ли повсеместно оставлять свой цифровой след. Он добавил, что другой вариант использования мошенниками сгенерированных профилей людей — общение с жертвами от лица их знакомых. В таком случае важно проверять аккаунты людей, с которых человеку пишут, отметил Душкин.
В то же время собеседник NEWS.ru признал, что сгенерированные ИИ цифровые копии личности могут быть полезны, с их помощью можно решать различные бытовые задачи. Нейросети — всего лишь технологии, а то, как они будут использоваться, — во благо или во вред — зависит лишь от самих людей, говорит специалист.
У меня, например, есть армия агентов (систем, решающих определенные задачи на базе языковых моделей. — NEWS.ru). У всех моих сотрудников есть армия агентов, которые помогают в повседневных вещах. Мы без них уже себя не мыслим, — подытожил Душкин.
Ранее британо-канадский ученый Джеффри Хинтон, считающийся «крестным отцом» искусственного интеллекта, заявил, что вероятность вымирания человечества из-за ИИ в ближайшие десятилетия достигает 20%. Он предостерег, что плохие люди будут использовать технологии, чтобы навредить другим.