La IA se programa/entrena con datos.
Por ejemplo, si entreno un algoritmo con datos de personas de raza negra, el sistema únicamente va a reconocer personas de raza negra.
Si tu set de entrenamiento está sesgado, cosa que sucede muy a menudo, tu inteligencia artificial estará sesgada.
¿Cómo se evitan estos sesgos?
Con sets de datos que contengan la variedad real que se da en el mundo. Para eso, necesitas “ejemplos” de cada uno.
Los computadores no piensan, no tienen las inteligencias que tenemos los humanos. Son entrenados con datos que los humanos les proporcionamos y eso es todo lo que pueden “aprender”. Si el humano los entrena con datos sesgados (poco variados, poco representativos de la realidad), el algoritmo tendrá predicciones sesgadas a su set de entrenamiento.