ИИ может определить политические взгляды по лицу
И это тревожно.
Исследователи из Высшей школы бизнеса Стэнфордского университета подтвердили, что распознавание лиц можно использовать, чтобы определять политические убеждения человека. Это создаёт новые угрозы приватности со стороны систем распознавания лиц.
591 человека спросили об их политических предпочтениях, а потом «скормили» их фотографии обученной на распознавание лиц модели. Та смогла по чертам лица определить политические предпочтения участников исследования.
Точность определения сравнивали с точностью предсказаний того, как хорошо собеседования определяют успех на работе или алкоголь повышает агрессивность. Достоверность увеличивалась, если показывать ИИ не только фото, но и добавлять контекст: возраст, пол, этническую принадлежность. Модель определяет не принадлежность к конкретной партии, а скорее спектр взглядов человека — консервативные они или либеральные. Судя по представлению модели и небольшой выборке, у либералов лица меньше, а у консерваторов — больше. Вот и пришли мы к ИИ, который мерит черепа и даёт людям оценку, ориентируясь на «большие данные».
Вероятно, исследование проводили для того, чтобы показать опасность технологии распознавания лиц в связке с ИИ. Такие инструменты позволяют определить о человеке те вещи, которые он не хотел бы демонстрировать. Но надо понимать, что ИИ не берёт данные из воздуха: он ориентируется на те данные, на которых натренирован. А данные эти могут быть предвзяты или неверны.