«Я не считаю, что это входит в мои обязанности»: генеральный директор компании Flock отвечает на опасения относительно злоупотребления возможностями камер
Камеры Flock становятся объектом всё более пристального внимания, поскольку всё больше людей становятся жертвами ошибочной идентификации и сталкиваются с судебным преследованием за преступления, которых они не совершали. Используя сочетание косвенных доказательств, сомнительных записей с камер наблюдения и активного применения искусственного интеллекта, полицейские управления по всей территории США всё чаще полагаются на эту частную компанию, существующую уже 7 лет, в вопросах обеспечения правопорядка, даже несмотря на то, что система может давать сбои.
Следует четко отметить, что не только компания Flock является причиной таких необоснованных судебных преследований. Как отметил ютубер Mental Outlaw в недавнем видео, все более широкое использование программного обеспечения искусственного интеллекта для распознавания лиц, автоматических считывателей номерных знаков, микрофонов для обнаружения выстрелов и аналогичных систем осуществляется без надлежащего обучения персонала и мер оперативной безопасности, которые гарантировали бы ответственное или даже законное управление и использование собираемых данных, как показали некоторые недавние случаи. Одним из наиболее серьезных случаев стал случай с Майклом Уильямсом, уроженцем Чикаго, который пробыл в тюрьме почти год по обвинению в убийстве на основании данных, полученных с помощью микрофона для обнаружения выстрелов, известного как ShotSpotter. Ещё хуже то, что система ShotSpotter изначально классифицировала этот звук как фейерверк и даже не зафиксировала его в непосредственной близости от Уильямса. Тем не менее этого оказалось достаточно, чтобы полиция задержала его, несмотря на то что при обыске у него не было обнаружено никаких вещественных доказательств. Хотя сам по себе этот факт вызывает тревогу, такая степень опоры на доказательства, полученные с помощью ИИ, стремительно становится нормой. Такие системы, как Flock, способствуют этой стандартизации — будь то благодаря их повсеместному использованию при считывании номерных знаков и выявлении нарушений правил дорожного движения, либо потому, что компания Flock привлекает сторонние PR-агентства для адаптации своего продукта к потребностям полицейских управлений по всей стране.
Что касается именно устройств считывания номерных знаков, Mental Outlaw рассматривает вопрос о том, как бремя доказывания перешло от полицейских ведомств к водителям, поскольку фотографические доказательства, полученные с помощью этих систем, по-видимому, стали «непогрешимыми». Однако о какой-либо непогрешимости речи, безусловно, не идёт, о чём свидетельствует случай с другим жителем Флориды, Джейкоб Роквелл, недавно стал героем интернета, когда явился на заседание городского совета, чтобы разъяснить его членам тонкости взаимодействия с частными компаниями и получить справедливую возможность оспорить штраф за проезд на красный свет — при том, что в момент нарушения он даже не находился в этом штате, — в то время как оплатить штраф было так же просто, как зайти на онлайн-портал. Что касается компании Flock: будь то отслеживание иммигрантов, наблюдение за абортами, нарушения конфиденциальности за пределами штата, опасения по поводу хакерских атак или вопиющее злоупотребление данными со стороны сотрудников правоохранительных органов — Flock в значительной степени умыла руки от любой ответственности и сосредоточилась на сборе большего объема данных и привлечении новых клиентов, как пояснил генеральный директор Гарретт Лэнгли в интервью « », которое он дал телеканалу 9News, где он ответил на вопрос о своём участии в контроле за тем, как полиция использует данные его компании, словами: «Я не считаю, что это входит в мои обязанности». Далее он поясняет, что для решения проблемы неправомерного использования предоставляемых им данных он будет обращаться к соответствующим должностным лицам, которыми, по иронии судьбы, скорее всего, окажутся именно те полицейские подразделения, которые и злоупотребляют этими данными. Тем не менее, власти штатов обратили на это внимание: многие из них расторгли контракты с компанией Flock и аналогичными агентствами, а люди также начали отслеживать размещение этих камер с помощью таких систем, как DeFlock — которую Лэнгли считает «террористической организацией» — и OpenMaps. Заинтересованные пользователи могут найти дополнительную информацию в приведённых ниже источниках.
Источник(и)
Список PR-материалов Flock, Неправомерное использование данных Flock [1][2][3], Уязвимости в загрузчике камеры Flock, Интервью для 9NEWS, Интервью с Hex Studio,«Mental Outlaw» на YouTube
Add as a preferred source on Google
