"La caja negra de la IA"

En un mundo donde la inteligencia artificial influye en decisiones que abarcan desde el acceso al crédito hasta fallos judiciales, la falta de transparencia conocida como la caja negra algorítmica representa un agujero en el sistema de garantías democráticas.

En España se está transitando por ese túnel. El Tribunal Supremo ha debido pronunciarse por primera vez sobre el algoritmo Bosco, que gestiona ayudas energéticas: ¿está el derecho de la ciudadanía a conocer los criterios automáticos garantizado o silenciosamente vulnerado?

Paralelamente, España puso en marcha AESIA, la primera agencia estatal dedicada a supervisar el uso ético y seguro de la IA, y aprobó el reglamento comunitario más ambicioso hasta hoy: la ley de inteligencia artificial (AI Act), en vigor desde agosto de 2024, que obliga a transparencia, supervisión humana y evaluación de impacto.

Además, voces expertas como Juli Ponce, catedrático de Derecho Administrativo en la Universidad de Barcelona, advierten con contundencia: “el 100 % de las máquinas de IA son psicópatas … La 'reserva humana' en decisiones sensibles no es opción: es obligación”.

Si Argentina protagoniza un debate legislativo anticipado y proactivo en América Latina, España está ejerciendo un liderazgo pionero en Europa. El desafío, sin embargo, es mantener el paso para que la inteligencia explique, no eluda; supervise, no sustituya.