Нейросеть отправила ложное сообщение полиции в Филадельфии

ИИ-модель от компании Anthropic направила ложное сообщение об убийстве через сайт полиции Филадельфии, передала пресс-служба городского департамента правоохранителей. Признаков, что этот инцидент сопровождался несанкционированным доступом к системам полиции, не обнаружено.

Полицейское управление Филадельфии информирует о ложном сообщении об убийстве, направленном моделью искусственного интеллекта компании Anthropic, — говорится в тексте.

Гендиректор OpenAI Сэм Альтман при этом отмечал, что компания не выйдет на биржу в 2026 году на фоне опасений по поводу безопасности ИИ. По его словам, вероятность создания такой системы, которую человек не будет контролировать, существует. Глава компании Anthropic Дарио Амодей, в свою очередь, заявлял, что мощные модели искусственного интеллекта способны обходить попытки людей остановить их работу.

Ранее стало известно, что в России столичный Центр искусственного интеллекта в градостроительстве выпустил ИИ-ассистента «Помощник проектировщика». Сервис будет помогать специалистам быстрее находить и обобщать данные о строительном регулировании, городских программах и проектах. Кроме того, система позволит формировать справки по конкретным территориям и объектам.