В одной из средних школ Балтимора система видеонаблюдения с искусственным интеллектом ошибочно идентифицировала упаковку чипсов Doritos как огнестрельное оружие, что привело к задержанию 16-летнего ученика. Инцидент произошел, он перекусывал после футбольной тренировки на территории школы. Через двадцать минут после срабатывания сигнала на место прибыли восемь полицейских машин. Подростка поставили на колени, надели наручники и провели обыск, прежде чем поняли ошибку. Как пояснил сам школьник, он просто держал в руках упаковку чипсов, выставив один палец, что система интерпретировала как угрозу.
Система действительно зафиксировала объект, внешне напоминающий пистолет, и автоматически передала сигнал службе безопасности для проверки. Хотя компания охарактеризовала инцидент как ложное срабатывание, она подчеркнула, что система действовала согласно протоколу — обеспечение безопасности остается приоритетом, даже если это требует последующей проверки человеком. Этот случай выявил серьезные проблемы в работе автоматизированных систем обнаружения оружия, которые активно внедряются в учебных заведениях США.
Для самого подростка эта ситуация имела психологические последствия. Как он рассказал журналистам, теперь он опасается просто перекусить на улице, чтобы не спровоцировать повторный выезд полиции. Школьные власти не принесли ему извинений, сославшись на стандартные процедуры. Помимо ложных срабатываний, такие технологии поднимают вопросы о конфиденциальности и допустимости постоянного наблюдения за учениками. Этот случай демонстрирует, насколько важно совершенствовать алгоритмы искусственного интеллекта и разрабатывать четкие протоколы реагирования для предотвращения подобных ситуаций в будущем.
Тем временем американские школьники влюбляются в ИИ-ботов.
