Нейросеть может ошибиться или дать слишком общий ответ, заявил NEWS.ru AI-продюсер Максим Афонин. По его словам, пользователям стоит насторожиться, если цифровой персонаж обещает слишком много, говорит слишком уверенно, не указывает источник информации или выглядит как независимый помощник, хотя фактически продвигает продукцию конкретной организации.
ИИ-персона — это не просто картинка или голос. Это может быть виртуальный консультант, цифровой гид, аватар бренда, помощник в сервисе, образовательный персонаж или медийный образ. Такой персонаж способен влиять на доверие пользователя и его решения. Особенно это важно в образовании, туризме, культуре, медиа, юридических услугах, подборе товаров и клиентском сервисе. Нейросеть может красиво сформулировать ответ, но это не значит, что ответ точный. Она может ошибиться, придумать факт, устаревшую информацию или дать слишком общий совет. Поэтому финальную ответственность должен нести не сам ИИ, а человек или организация, которые вывели такого персонажа к пользователю, ― сказал Афонин.
Собеседник отметил, что цифровые персонажи все чаще становятся частью повседневной жизни: они отвечают в чатах, помогают выбирать товары, проводят по сайтам, рассказывают о музеях, объясняют услуги, ведут трансляции и общаются от имени брендов. Но пользователю важно помнить: за любым ИИ-персонажем должен стоять конкретный автор, владелец или оператор, уточнил продюсер.
Главная опасность возникает тогда, когда человек начинает воспринимать цифрового персонажа как самостоятельного эксперта, хотя на самом деле это созданный кем-то инструмент общения. Отдельный вопрос связан с авторством и правами. Цифровой персонаж может использовать голос, образ, стиль речи. Если это сделано без понятных правил, возникает риск конфликтов и недоверия. В будущем ИИ-персоны будут появляться все чаще: у городов, музеев, брендов, образовательных проектов, сервисов и медиа. Они могут быть полезны, если помогают человеку быстрее получить информацию, разобраться в теме, пройти маршрут, задать вопрос или понять сложную услугу простым языком. Но доверять им полностью без проверки не стоит, ― резюмировал Афонин.
Ранее руководитель направления Т1 ИИ (ИТ-холдинг Т1) Сергей Голицын заявил, что умные швабры на базе систем компьютерного зрения в перспективе могут взять на себя контроль за работой клининга в офисах. По его словам, пока такие решения могут быть дороги и не всегда оправданы.
