En una reciente conversación entre el Dr. Pere Simón Castellano y el Dr. Alfredo Abadías Selma reflexionan sobre el papel que la inteligencia artificial puede desempeñar en el sistema de justicia juvenil y, especialmente, sobre los límites éticos y jurídicos que deben guiar su aplicación cuando se trabaja con menores.
A lo largo de la conversación, Abadías subraya que la tecnología puede convertirse en una aliada relevante para mejorar la toma de decisiones, personalizar programas educativos y optimizar intervenciones orientadas a la prevención de la reincidencia. Sin embargo, advierte de forma clara que no todo lo técnicamente posible es jurídicamente ni éticamente aceptable, y que esta cautela resulta aún más imprescindible cuando se trata de colectivos especialmente vulnerables, como los menores en conflicto con la ley.
Uno de los ejes centrales del análisis es el riesgo de delegar decisiones sensibles en sistemas automatizados. El uso de algoritmos sin supervisión humana puede derivar en sesgos, estigmatización o vulneraciones de derechos fundamentales, especialmente si se aplican criterios opacos o basados en datos incompletos. Por ello, el experto insiste en la necesidad de establecer líneas rojas claras que impidan que la tecnología sustituya al juicio profesional en decisiones que afectan directamente a la libertad, el desarrollo y el futuro de los menores.
Cualquier herramienta tecnológica debe estar subordinada al interés superior del menor, y su utilización ha de ser siempre gradual, garantista y sometida a control humano interdisciplinar. En este sentido, Abadías señala que la implementación de sistemas basados en inteligencia artificial en España debe apoyarse en la transparencia radical, la rendición de cuentas y la protección efectiva de los derechos fundamentales, por encima de la mera eficiencia tecnológica.
Este diálogo se enmarca en una reflexión más amplia sobre cómo integrar la innovación en los sistemas de justicia, educación e intervención social sin perder de vista el componente humano, ético y protector que debe presidir cualquier actuación con infancia y adolescencia.
Puedes ver la conversación completa aquí:
