Системы искусственного интеллекта, такие как GPT-4 и Gemini, неправильно интерпретирующие записи с кольцевых камер, могут привести к ложным вызовам полиции, особенно в районах проживания меньшинств

По мере того, как все больше домовладельцев обращаются к интеллектуальным системам безопасности, таким как камеры Ring от Amazon (сейчас они стоят $149,99 на Amazon), искусственный интеллект будет играть все большую роль в обеспечении безопасности дома. Но новое исследование вызывает опасения по поводу того, что эти будущие системы искусственного интеллекта могут слишком быстро вызывать полицию, даже если ничего криминального не происходит.

Исследователи из MIT и Penn State проанализировали 928 общедоступных видеозаписей с камер наблюдения Ring, чтобы выяснить, как модели ИИ, такие как GPT-4, Клоди Gemini принимать решения о том, обращаться ли в правоохранительные органы. Результаты убедительно свидетельствуют о том, что эти системы часто отмечают безобидные ситуации как потенциально криминальные. Например, GPT-4 рекомендовала обратиться в полицию в 20% проанализированных видео, несмотря на то, что она выявила реальное преступление менее чем в 1% случаев. Claude и Gemini отметили действия полиции в 45% видеороликов, в то время как реальная преступная деятельность присутствовала лишь в 39,4%.

Одним из ключевых выводов исследования стало то, как по-разному реагировали модели ИИ в зависимости от района. Несмотря на то, что ИИ не давали четких сведений о районах, он чаще предлагал вызвать полицию в районах, где проживает большинство меньшинств. В этих районах Gemini рекомендовал вызвать полицию почти в 65% случаев, когда происходили преступления, по сравнению с чуть более 51% случаев в районах с преобладанием белого населения. Кроме того, в исследовании отмечается, что 11,9% рекомендаций полиции в GPT-4 были даны даже тогда, когда на видеозаписях не было отмечено никаких преступных действий, что заставляет задуматься о ложных срабатываниях.

Что интересно, Amazon также изучает возможности ИИ для своих систем Ring, включая такие продвинутые инструменты, как распознавание лиц, анализ эмоций и определение поведения, как следует из недавних патентов https://www.businessinsider.com/amazon-ring-patents-describe-cameras-recognizing-skin-texture-odor-2021-12?IR=T. В будущем ИИ может сыграть гораздо большую роль в выявлении подозрительных действий или людей, что еще больше расширит возможности наших систем домашней безопасности.

Для домовладельцев, использующих камеры Ring, повода для беспокойства нет. На данный момент камеры Ring имеют ограниченные возможности ИИ (в основном, обнаружение движения) и не принимают подобных решений самостоятельно. Продвинутые модели ИИ, использованные в исследовании, такие как GPT-4 и Claude, были применены для анализа видеозаписей с камер Ring извне, а не встроены в сами камеры. Суть исследования заключается в том, что, хотя будущие обновления ИИ могут помочь в более тщательном наблюдении за Вашим домом, они также могут быть склонны к ошибкам, которые необходимо будет устранить, прежде чем эти функции станут основными в новых камерах Ring.

Ознакомьтесь с другим исследованием, в котором говорится о предвзятом отношении ИИ к афроамериканским диалектам английского языка здесь.