Искусственный интеллект ошибочно опознает пакетик Doritos как пистолет - полиция нацеливает оружие на 17-летнего студента

В средней школе Кенвуд в Мэриленде используется система безопасности на базе искусственного интеллекта под названием Omnilert, которая подключается к существующим камерам наблюдения для постоянного сканирования на предмет потенциального оружия. Но система не всегда все делает правильно. Вечером 20 октября она ошибочно определила пакет с чипсами Doritos - популярной закуской в США - как огнестрельное оружие.

Чипсы принадлежали Таки Аллену, 17-летнему студенту, который ждал попутку после футбольной тренировки около семи часов вечера, когда внезапно взвыли полицейские сирены и подъехали восемь патрульных машин. Офицеры выскочили и направили на него свои пистолеты. "Я думал, что умру... они наставили на меня пистолеты ", - рассказал Аллен в интервью CNN. Его заставили встать на колени, надели наручники и обыскали - офицеры не нашли ничего, кроме пустого пакета из-под чипсов на земле.

По словам директора Кейт Смит, сигнал тревоги AI уже был отменен до прибытия полиции. Однако об этом не было сообщено вовремя, сообщил представитель школьного округа телеканалу WBAL-TV 11. Суперинтендант Мириам Роджерс назвала инцидент "прискорбным" и объявила о проведении полной проверки. Учащимся будет оказана психологическая помощь.

Призывы к реформе после ложной тревоги

После инцидента дедушка Аллена, Ламонт Дэвис, призвал к ответственности и реформам в использовании искусственного интеллекта для наблюдения. Это событие также вызвало бурные дебаты в социальных сетях. На сайте Redditпользователи выступили с резкой критикой полиции, школьных властей и технологий. Многие утверждали, что на самом деле проблема была не в самом ИИ, а в том, как люди отреагировали на сигнал тревоги. "Человеческая ошибка, а не сбой ИИ", - гласил один из главных комментариев.

Система, предназначенная для раннего обнаружения оружия, имеет смысл - особенно в США, где стрельба в школах остается серьезной проблемой. Но очень важно, чтобы эти инструменты сами не становились источником риска. Это означает сведение к минимуму ложных тревог и поддержание четкой связи между сотрудниками службы безопасности и правоохранительными органами.