Суперечливі інновації. Велика мережа аптек прогоріла на стеженні за клієнтами за допомогою ШІ

Розпізнавання облич завдало шкоди бізнесу американської мережі аптек (Фото:Mariano Baraldi Unsplash)

Американська мережа аптек Rite Aid таємно запровадила систему стеження за клієнтами, що за допомогою ШІ розпізнавала їхні обличчя. Як не дивно, вона виявилася расистською.

У 2012 році Rite Aid почала розгортати нову технологію запобігання крадіжкам, що передбачала розпізнавання обличчя клієнтів. За наступні 8 років Rite Aid у партнерстві з двома іншими компаніями створила цілу базу даних списку спостереження з численними зображеннями клієнтів. Вона вміщувала кадри з камер відеоспостереження та світлини з камер мобільних телефонів співробітників.

Зрештою ці зображення використовувалися для виявлення потенційних злодіїв. Коли клієнт, якого система визначала як людину з бази злочинців, відвідував аптеку, співробітники отримували сповіщення з інструкцією щодо заходів, яких треба вжити. Найчастіше йшлося про те, аби просто підійти до клієнта і перевірити, чи схожий він на фото. Часто ці збіги виявлялися помилковими. Через такий підхід мережа аптек потрапила під приціл урядових установ, пише Tech Crunch.

Федеральна торгова комісія США (FTC) висунула численні звинувачення Rite Aid. Зокрема, комісія стверджує, що Rite Aid вдалася до порушень, оскільки не повідомила клієнтів про те, що використовується технологія розпізнавання обличчя, а також наказала співробітникам не розкривати цю інформацію. Також компанія не протестувала і не виміряла точність системи розпізнавання облич до або після її розгортання.

Крім цього, FTC стверджує, що Rite Aid не змогла зменшити ризики для певних споживачів через їхню расову приналежність. Технологія компанії з більшою ймовірністю надавала сповіщення про злодіїв у магазинах, що розташовані у громадах з переважно темношкірим та азійським населенням.

FTC заборонила Rite Aid використовувати це програмне забезпечення протягом п’яти років через «безрозсудне використання» і створення ризиків для конфіденційної інформації клієнтів. Комісія також вимагає від Rite Aid видалити будь-які зображення, зібрані в рамках впровадження системи та будь-які програмні продукти, які було створено з цими зображенням. Компанія також повинна запровадити надійну програму захисту даних, щоб захистити будь-які персональні дані, які вона збирає. Це рішення має бути затверджено судом у справах банкрутства, що розглядає справу щодо Rite Aid.

NV запрошує на новий захід УКРАЇНА ТА СВІТ ПОПЕРЕДУ 2024 21 грудня, Київ