Sentencia BOSCO y transparencia algorítmica

La sentencia del TS sienta un importante precedente en transparencia algorítmica.

El pasado 11 de septiembre de 2025 el Tribunal Supremo firmó una decisión que abre un abanico de consecuencias para la democracia digital: Ordenó que la Administración entregue el código fuente de BOSCO, la aplicación que valida quién puede acceder al bono social eléctrico. Es decir: un tribunal de máxima instancia ha dicho, con claridad y por primera vez en España, que una “caja negra” informática utilizada para decidir sobre prestaciones sociales debe abrirse y poder ser revisada.

La Fundación Civio venía pidiendo acceso desde 2018 tras detectar que BOSCO dejaba fuera a personas que cumplían los requisitos legales; la Administración se negó alegando propiedad intelectual, seguridad o protección de datos. El TS, sin embargo, exige que las limitaciones se justifiquen concretamente y que la necesidad pública de transparencia —cuando se trata de derechos sociales— pese mucho en la balanza. En la práctica, el fallo obliga a que, salvo partes justificadas protegibles, el funcionamiento técnico se pueda auditar.

¿Por qué importa esto más allá del bono social? Porque estamos ante una sentencia que no sólo corrige una situación concreta, sino que sienta doctrina: la administración pública no puede esconder tras “secretos” (intelectuales o de otro tipo) el mecanismo que decide sobre bienes y derechos si no demuestra, caso por caso, por qué resulta imprescindible.

¿Y esto qué tiene que ver con la IA?

Hoy BOSCO puede ser —y probablemente sea— un sistema programado con reglas y comprobaciones explícitas. Mañana, muchos sistemas públicos evolucionarán hacia modelos que aprenden de datos: IA que recompone ponderaciones, detecta patrones, ajusta límites a partir de históricos. Ahí aparecen tres riesgos nuevos y relevantes que el fallo de BOSCO ayuda a visibilizar:

Opacidad aumentada: donde antes había reglas fijas, ahora hay modelos (redes, árboles complejos, embeddings) cuya lógica no es trivial. Exigir acceso y auditabilidad a código y pruebas hoy prepara el terreno para auditar modelos más opacos mañana.
Sesgos y amplificación: si los datos de entrenamiento recogen discriminaciones pasadas, una IA no las corrige: las reproduce y las escala. BOSCO ya puso sobre la mesa el daño real de errores masivos; con IA, esos errores pueden multiplicarse.
Legitimidad y recursos de impugnación: cuando una máquina excluye a una persona de una prestación, esa persona debe saber por qué y tener un recurso efectivo. El Supremo ha reforzado esa idea: la justicia exige explicaciones que sean auditables y comprobables.

Dos ejemplos que ilustran por qué no podemos esperar

Como ejemplos rápidos —y sólo eso: ejemplos que complementan el foco en BOSCO— conviene recordar dos casos que muestran riesgos distintos:

Veripol: Una herramienta basada en IA diseñada para detectar denuncias posiblemente falsas utilizada por la Policía. Tras su uso y la polémica sobre su validez y transparencia, fue retirada porque no ofrecía garantías procesales ni técnicas suficientes a la hora de sostener actuaciones judiciales. Veripol es la advertencia práctica de cómo una IA con promesa técnica puede fracasar por falta de transparencia, validación y legitimidad.
TVR (Tabla de Variables de Riesgo): No es IA, es un algoritmo clásico (de 1993) que ha sido clave en decisiones sobre permisos penitenciarios. Sus limitaciones —faltas de actualización, opacidad en el peso de variables, y evidencias de sesgo sobre ciertos colectivos— muestran la otra cara: que incluso algoritmos “viejos” pueden institucionalizar injusticias si no se revisan. TVR es el recordatorio de que la tecnología administrativa, sin controles, penaliza vidas reales.

Ambos casos sirven para subrayar el mensaje central de BOSCO: no podemos delegar derechos en sistemas que no se puedan auditar y corregir.

A la luz del fallo ¿Qué debería exigirse ahora?

La sentencia BOSCO no lo resuelve todo, pero marca un rumbo. De la lectura del fallo y de los ejemplos prácticos se desprenden exigencias claras para el diseño y uso de herramientas automatizadas en la administración:

Transparencia técnica efectiva: No basta con explicar en términos generales. Hay que poner a disposición, bajo medidas razonables, la información técnica necesaria para auditar (y cuando proceda, el código fuente para revisiones técnicas).
Auditorías independientes y periódicas: Siempre, y especialmente cuando el sistema aprende de datos.
Evaluaciones de impacto algorítmico (éticas, sociales, de sesgo) antes y después del despliegue.
Derecho real de impugnación: Acceso a la “causa concreta” de una decisión automática y mecanismos judiciales administrativos adaptados para resolver estos casos.
Reglas claras sobre propiedad intelectual y seguridad: Que protejan lo necesario sin convertir esas figuras en puertas de opacidad. El Supremo ya ha dicho que esas defensas no son automáticas; deben justificarse y ponderarse.

La sentencia 1119/2025 convierte a BOSCO en más que un caso concreto: es una llamada a reequilibrar la relación entre tecnología y derecho. Nos recuerda que la administración no puede valerse del manto de la complejidad técnica para eludir el escrutinio democrático a este tipo de procesos. Cuándo la IA entre a formar parte de este tipo de sistemas, la lección de BOSCO es sencilla y urgente: Hemos de construir transparencia, estándares de auditoría y recursos jurídicos antes de que estos sistemas sean la norma.