Повторное изучение физиономии: Как модели зрения и языка кодируют чувствительные атрибуты через преобразования изображения

arXiv: 261 030.35910v1 Вид уведомления: перекрестное резюме: Эмергентные технологии адаптивной АИ, хотя и весьма полезны в ряде задач и областей, могут страдать от непредвиденной уязвимости и трудно предугадаемых режимов отказа. Такие формы отказа могут оказывать непропорциональное воздействие на уязвимые общины. В настоящем документе рассматриваются две хорошо известные модели языка зрения (VLM) и рассматривается вопрос о том, как эти модели кодируют личности при создании изображений. Мы показываем, что при обращении к НДЖ с просьбой преобразовать образы человеческого лица для отражения расовой идентичности (например, испаноязычные, чернокожие, белые или азиаты) и сексуальной ориентации (такие как гомосексуалисты или натуралы), МПЖ часто выполняют такие просьбы. Мы демонстрируем, что соблюдение (и отказ) не детерминистское, учитывающее интересы групп и генерируемые ими изображения статистически различимы, зачастую усиливая глубоко укоренившиеся стереотипы. Мы далее показываем, что ошибки в представлении, возникающие во время создания изображений, могут вновь появиться при определении текстовых рассуждений и характеристик.