Генеральный директор IBM Арвинд Кришна (Arvind Krishna) направил в Конгресс США письмо, в котором заявил, что компания больше не будет предоставлять универсальное программное обеспечение для анализа или распознавания лиц; разработка этих технологий также будет прекращена, говорится в комментарии компании изданию The Verge.
«IBM решительно противится и не станет поддерживать использование любой технологии [распознавания лиц] – включая подобные технологии других производителей – для массовой слежки, расовой дискриминации, нарушения базовых прав и свобод человека или в любых целях, несовместимых с нашими ценностями и принципами доверия и прозрачности, — поясняет Кришна в письме решение компании. – Мы верим, что пришло время начать национальный диалог о том, как технология распознавания лиц должна применяться нашими правоохранительными органами».
The Verge отмечает, что ПО для распознавания лиц за последнее десятилетие значительно улучшилось благодаря развитию технологий искусственного интеллекта. В то же время софт, зачастую разрабатываемый частными компаниями без «государственного присмотра» и продуманного регулирования, грешит системными ошибками, выливающимися в предвзятое отношение [к распознаваемым] по возрастным, расовым, этническим признакам. Это делает его ненадежным инструментом для силовиков и безопасников и провоцирует потенциальные нарушения гражданских прав. Издание приводит также ряд недавних примеров, иллюстрирующих сложившуюся ситуацию.
В 2019 году члены законодательного органа Калифорнии стали предметом наблюдения в эксперименте, подготовленном Американским союзом гражданских свобод (American Civil Liberties Union, ACLU). Их портретные фотографии были загружены в программу распознавания лиц Amazon Recognition и сравнены с базой данных из 25 тысяч снимков с арестованными за стрельбу. Двадцать шесть законодателей были неправильно определены как люди из этой базы.
