В Китае система нейросети, отвечающая за пожарную безопасность, спровоцировала затопление ресторана, и попала на видео. Умная система ошибочно приняла яркую вывеску за пламя и активировала мощные водные пушки.
В результате инцидента ресторан был залит водой, хотя реального возгорания не происходило. Комментаторы в социальных сетях отметили, что технологии автоматического распознавания угроз способны допускать ошибки. Они подчеркнул необходимость постоянного человеческого контроля при внедрении искусственного интеллекта в системы безопасности.
Ранее психиатр Марк Нечаев заявил, что общение с нейросетями может усиливать бредовые убеждения у людей с психотическими симптомами. По его словам, особую опасность представляли диалоги, в которых чат-бот поддерживал подозрения пользователя.
До этого психолог Валерия Демарева заявила, что люди все чаще обращались за ментальной помощью не к специалистам, а к нейросетям. По ее словам, пользователи привыкли «изливать душу» искусственному интеллекту, а не окружающим, ведь первый не осудит их и не станет делать оценочных высказываний.