The human Bias - episode available here: https://shorturl.at/G12SG
Uno de los temas más debatidos hoy en día en el ámbito de la inteligencia artificial es el sesgo. El sesgo de la IA es el riesgo existente en que, tanto su código como los datos con los que hayan sido alimentados, puedan estar sesgados.
El caso que más se utiliza en este sentido es la plataforma de selección de personal que elaboró Amazon y que resulta que tenía un sesgo claro hacia los hombres por los datos históricos con la que se alimentó.
Si bien el sesgo en los sistemas de IA ha sido motivo de gran preocupación, muchas veces pasamos por alto que los humanos también sufrimos de una extensa lista de sesgos cognitivos que afectan nuestras decisiones cotidianas. De hecho, la mayoría de estos sesgos son inherentes a nuestro proceso de pensamiento, lo que pone en perspectiva si la IA es verdaderamente más sesgada que nosotros o simplemente refleja nuestras propias limitaciones.
Los seres humanos, al depender de la intuición y la experiencia pasada, cometemos errores que se originan de una serie de sesgos cognitivos. Por ejemplo, uno de los sesgos más comunes es el sesgo de disponibilidad, en el que tomamos decisiones basadas en información fácilmente recordada, en lugar de analizar todos los datos relevantes. Otro ejemplo es el sesgo de confirmación, donde solo prestamos atención a la información que refuerza nuestras creencias preexistentes, ignorando cualquier cosa que las contradiga.
Por otro lado, la inteligencia artificial está diseñada para procesar grandes cantidades de datos de manera objetiva, sin la carga emocional o cognitiva que puede afectar a los humanos. Sin embargo, si los datos utilizados para entrenar estos sistemas están sesgados, la IA reproducirá esos sesgos. Este problema no es inherentemente tecnológico, sino que surge de las limitaciones humanas en la recopilación, etiquetado y selección de los datos.
¿Qué Sesgos Cognitivos Afectan a los Humanos?
Aquí algunos de los sesgos cognitivos más comunes en la toma de decisiones humana, junto con ejemplos de cómo se manifiestan en la vida diaria:
Apofenia: Este sesgo se refiere a encontrar conexiones entre eventos o datos que no están relacionados. Ejemplo: Una persona puede pensar que si usa un determinado amuleto, tendrá buena suerte. En realidad, no hay conexión entre el objeto y los eventos que le suceden, pero esa “correlación” es percibida como real.
Disonancia cognitiva: Ocurre cuando las personas modifican o rechazan información que entra en conflicto con sus creencias existentes. Un fumador que conoce los riesgos de fumar puede justificar su hábito diciendo que “conozco a una persona que ha fumado toda su vida y sigue saludable”, en lugar de aceptar los datos sobre los daños del tabaco.
Sesgo de confirmación: Este sesgo implica interpretar o buscar información de manera que confirme creencias preexistentes. Una persona que cree que la vacunación es peligrosa, solo busca o presta atención a artículos que refuercen esa creencia, ignorando los estudios que demuestran lo contrario.
Sesgo de disponibilidad: Basar las decisiones en información fácilmente recordable en lugar de en todos los datos relevantes. Después de ver noticias de varios accidentes aéreos, una persona puede tener miedo de volar, aun cuando las estadísticas demuestran que es mucho más seguro que viajar en coche.
Efecto de arrastre (Bandwagon effect): Adoptar opiniones o creencias simplemente porque son populares o apoyadas por otros. En redes sociales, muchas personas adoptan modas o causas sin investigar a fondo, solo porque ven que otros las están apoyando.
Sesgo de retrospectiva: Creer que, después de que algo haya ocurrido, podríamos haberlo predicho. Después de perder en una inversión, alguien puede decir: “Sabía que no debí invertir ahí”. Este pensamiento no refleja una predicción real, sino una evaluación basada en el resultado ya conocido.
Ilusión de superioridad: Sobreestimar nuestras propias habilidades y subestimar las de los demás. Conducir es un ejemplo clásico. La mayoría de las personas piensa que son mejores conductores que la media, aunque esto no es estadísticamente posible.
Costes hundidos (Sunk cost fallacy): Seguir invirtiendo en una decisión en base a lo que ya se ha gastado, en lugar de evaluar si vale la pena continuar. Una persona que sigue asistiendo a una clase costosa, a pesar de no estar disfrutándola o no aprender nada, solo porque ya ha pagado la matrícula.
Sesgo de negatividad: Dar mayor peso a la información negativa que a la positiva. Un empleado que recibe elogios por su desempeño, pero se enfoca en un comentario crítico, sintiéndose mal por el mismo a pesar del feedback positivo.
Sesgo de exceso de confianza: Sobreestimar la precisión de nuestras creencias o predicciones. Un inversor novato puede sobreestimar su capacidad para predecir los mercados y tomar decisiones arriesgadas sin la preparación adecuada.
Sesgo de anclaje: Focalizarse excesivamente en una sola pieza de información, ignorando otros datos relevantes. Al negociar el precio de una casa, el comprador puede quedarse anclado al precio inicial ofrecido, sin considerar otras variables que podrían modificar ese valor (estado del mercado, condiciones del inmueble, etc.).
La inteligencia artificial tiene el potencial de superar muchos de estos sesgos humanos en la toma de decisiones, gracias a su capacidad de procesar grandes volúmenes de datos de manera imparcial. No obstante, como se menciona anteriormente, la IA puede heredar estos sesgos si están presentes en los datos con los que se entrena. Para evitar esto, es crucial garantizar que los datos sean equilibrados y que los algoritmos sean diseñados y supervisados adecuadamente.
Además, la IA trae consigo su propio conjunto de retos y limitaciones. Los sesgos inherentes en la programación de la IA y la manera en que se implementan los modelos pueden generar resultados inesperados o indeseados. Sin embargo, a diferencia de los sesgos humanos, los sesgos en la IA son, en teoría, corregibles. Esto ofrece la posibilidad de mejorar constantemente estos sistemas a medida que comprendemos mejor nuestras propias deficiencias.
Comentarios