La Inteligencia Artificial está más que presente en nuestras vidas: recomendaciones de contenido en redes sociales, diagnóstico de enfermedades, detección de fraudes, chatbots, entre otros usos. Pero a pesar de usar tecnología todo los días, muchas veces no sabes de dónde rayos nos llega toda esa información.

Así es como surgió el concepto de cajas negras de la IA: sistemas tan complejos de los cuales su funcionamiento es un misterio tanto para usuarixs como para quienes los desarrollan ⚙️❓

Entender qué son las cajas negras no solo ayuda a conocer mejor cómo opera la IA, también pone en la mesa cuestionamientos sobre su transparencia, la confianza, la privacidad y el impacto que estas tecnologías tienen en nuestra vida diaria.

Algunos ejemplos concretos de algoritmos de caja negra:

💼 Cuando una IA evalúa tu CV antes que una persona, ¿cómo sabremos con certeza los parámetros que toma en cuenta para descartar o no tu postulación?

🏦 Aprobación de créditos bancarios. Las evaluaciones incluyen análisis de búsquedas, patrones de compra, etc.

💘 Match en apps de citas. No existe claridad sobre cómo se priorizan las preferencias de lxs usuarixs.

⚖️ Dictaminar sentencias. En Estados Unidos se ha utilizado COMPAS, un sistema de IA para resoluciones judiciales.

Aunque la IA puede analizar grandes cantidades de información en segundos, eso no significa que siempre tome decisiones “correctas” y objetivas. Los sistemas de IA aprenden a partir de datos creados por personas y, si esos datos contienen errores, prejuicios o información incompleta, la tecnología también puede replicarlos, fomentando los sesgos algorítmicos.

De acuerdo con la informática y activista Joy Buolamwini, algunos sistemas de reconocimiento facial han presentado mayores errores al identificar mujeres o personas racializadas, mientras que ciertos algoritmos utilizados para contratación laboral o aprobación de créditos han sido señalados por favorecer perfiles específicos.

¿Podemos confiar plenamente en una inteligencia artificial que no entendemos?

Aunque estas herramientas son cada vez más útiles en áreas como salud, educación, movilidad o entretenimiento, también es necesario cuestionar cómo toman decisiones y qué tan supervisadas están.

Es por eso que en distintos países han surgido regulaciones y debates sobre transparencia en IA:

🌐 La Unión Europea, aprobó la AI Act, una legislación enfocada en regular sistemas de IA según su nivel de riesgo y exigir mayor transparencia en ciertos usos.

🌐 La UNESCO también ha impulsado foros mundiales sobre la ética y responsabilidad de la creación y uso de la IA.

🌐 En México, la Agencia de Transformación Digital y Telecomunicaciones (ATDT) presentó la Declaración de ética y buenas prácticas para el uso y desarrollo de la inteligencia artificial.

Las cajas negras de la IA son un recordatorio de que tenemos que utilizar las tecnologías con responsabilidad. Aunque nos faciliten la vida, debemos detenernos a pensar en cómo se toman ciertas decisiones y quién supervisa esos procesos. Comprender cómo funciona la IA es tan importante como aprender a usarla.

Redacción: Natalia García