Connect with us

Hi, what are you looking for?

Наука и технологии

Появилась программа с ИИ, которая создает фотороботы для полицейских. Эксперты говорят, что она предвзята

Появилась программа с ИИ, которая создает фотороботы для полицейских. Эксперты говорят, что она предвзята - rdd.media 2024

Два разработчика использовали модель генерации изображений DALL-E 2 от OpenAI для создания криминалистической программы, которая может генерировать «гиперреалистичные» полицейские фотороботы подозреваемого на основе данных которые указывает пользователь.

Программа под названием Forensic Sketch AI-rtist была создана разработчиками Артуром Фортунато и Филипом Рейно в рамках хакатона в декабре 2022 года. Разработчики говорят, что целью приложения является сокращение времени, обычно затрачиваемого на рисование подозреваемого, которое составляет около двух-трех часов.

«Мы еще не выпустили продукт, поэтому в настоящее время у нас нет активных пользователей», — сказали Фортунато и Рейно. «На данном этапе мы еще пытаемся проверить, будет ли этот проект пригоден для использования в реальных условиях или нет. Для этого мы планируем связаться с полицейскими участками, чтобы получить информацию, где мы можем это проверить».

Эксперты по этике и исследователи ИИ говорят, что использование генеративного ИИ в полицейской криминалистике очень опасно, потому что это может усугубить существующие расовые и гендерные предубеждения, которые появляются в первоначальных описаниях свидетелей.

«Проблема с традиционными криминалистическими эскизами заключается не в том, что для их создания требуется время (что, похоже, является единственной проблемой, которую пытается решить это приложение для криминалистических эскизов ИИ). Проблема в том, что любой криминалистический эскиз уже подвержен человеческой предвзятости и слабости человеческой памяти», — сказала Дженнифер Линч, директор по надзору в Electronic Frontier Foundation. «ИИ не может решить эти человеческие проблемы, и эта конкретная программа, вероятно, ухудшит их из-за своей конструкции».

Приложение просит пользователей предоставлять информацию либо через шаблон, который запрашивает: пол, цвет кожи, брови, нос, бороду, возраст, описание волос, глаз и челюсти, либо через функцию открытого описания, в которой пользователи могут ввести любое описание подозреваемого, которое у них есть. Затем пользователи могут нажать кнопку «Создать профиль», которая отправляет описание в DALL-E 2 и создает портрет, сгенерированный ИИ.

«Исследования показали, что люди запоминают лица целостно, а не черты по признакам. Процесс создания фоторобота, который опирается на описание индивидуальных черт, как в этой программе, может привести к тому, что лицо будет разительно отличаться от настоящего лица преступника, считает Линч. «К сожалению, когда свидетель видит составленную фотографию, этот образ может заменить в его сознании смутное воспоминание о реальном подозреваемом».

Добавление DALL-E 2 к и без того ненадежному процессу проверки свидетелей еще больше усугубляет ситуацию. Саша Луччиони, исследователь из Hugging Face, утверждает, что DALL-E 2 содержит много предубеждений — например, она показывает в основном белых мужчин, когда их просят создать образ генерального директора. OpenAI постоянно разрабатывает методы снижения предвзятости в производительности своего ИИ.

Появилась программа ИИ, которая создает фотографии для полицейских. Эксперты говорят, что она предвзята

«Как правило, именно маргинализированные группы еще более маргинализированы благодаря этим технологиям из-за существующих предубеждений в наборах данных, из-за отсутствия контроля и потому, что в Интернете есть много изображений цветных людей, которые уже очень расистские и очень несправедливые. Это своего рода осложняющий фактор», — добавляет Луччони.

Фортунато и Рейно говорят, что их программа работает на предположении, что полицейские описания заслуживают доверия, и что именно полицейские должны нести ответственность за распространение справедливых и честных фотографий.

Сами разработчики признают, что нет средств для измерения точности сгенерированного изображения. В уголовном деле неточности могут быть исправлены только тогда, когда подозреваемый найден или когда он уже находится в тюрьме. И так же, как и в случае, когда полиция делится именами и фотографиями подозреваемых в социальных сетях, распространение неточного изображения до сих пор также может вызвать подозрение среди чрезмерно криминализированного населения. Критики также отмечают, что предположения разработчиков о нейтралитете полиции игнорируют хорошо документированные доказательства того, что сотрудники полиции регулярно лгут, представляя доказательства и давая показания по уголовным делам.