El sesgo en los generadores de imágenes de IA es un fenómeno bien estudiado y reportado, pero las herramientas de consumo siguen exhibiendo sesgos culturales llamativos. El último culpable en esta área es el chatbot de IA de Meta, que, por alguna razón, realmente quiere agregar turbantes a cualquier imagen de un hombre indio.
La compañía lanzó Meta AI en más de una docena de países a principios de este mes en WhatsApp, Instagram, Facebook y Messenger. Sin embargo, la compañía ha lanzado Meta AI a usuarios seleccionados en India, uno de los mercados más grandes del mundo.
TechCrunch examina diversas consultas específicas de la cultura como parte de nuestro proceso de pruebas de IA, mediante el cual descubrimos, por ejemplo, que Meta está bloqueando consultas relacionadas con las elecciones en India debido a las elecciones generales en curso del país. Pero Imagine, el nuevo generador de imágenes de Meta AI, también mostró una predisposición peculiar a generar imágenes de hombres indios usando un turbante, entre otros sesgos.
