Исследователи из Массачусетского технологического института (MIT) разработали первый в своём роде психопатический искусственный интеллект, получивший имя Норман. Ему в рамках специального эксперимента «скармливали» контент из «тёмных уголков reddit», чтобы понять, как собранные данные и предвзятость могут влиять на поведение и возможности принятия решений ИИ.
После изучения тем, в которых можно найти контент, посвящённый смерти и разрушениям, набор данных Нормана стал очень отличаться от набора стандартного искусственного интеллекта. В рамках теста Роршаха проект MIT повёл себя, мягко говоря, необычно.
Например, на одной из картинок стандартный ИИ увидел «чёрно-белую фотографию красно-белого зонтика», в то время как Норман описал «мужчину, которого бьёт током во время перехода дороги». На другой картинке с чернилами первый испытуемый увидел «чёрно-белое фото маленькой птички». А вот ИИ-психопат описал «человека, попавшего в тестораскаточную машину».
Результаты эксперимента помогли исследователям удостовериться в необходимости создания подходящих наборов данных при подготовке систем искусственного интеллекта и нейронных сетей. Без правильных наборов, обеспечивающих стабильную основу для обучения, человек не сможет полагаться ни на решения ИИ, ни на его восприятие мира.
Следите за развитием событий в нашем Телеграм-канале