{"id":8812,"date":"2025-02-18T11:38:01","date_gmt":"2025-02-18T10:38:01","guid":{"rendered":"https:\/\/mascalvet.com\/?p=8812"},"modified":"2025-02-18T13:09:44","modified_gmt":"2025-02-18T12:09:44","slug":"ia-en-la-educacion-progreso-o-riesgo-el-reglamento-que-define-su-futuro","status":"publish","type":"post","link":"https:\/\/mascalvet.com\/en\/ia-en-la-educacion-progreso-o-riesgo-el-reglamento-que-define-su-futuro\/","title":{"rendered":"IA en la Educaci\u00f3n: \u00bfprogreso o riesgo? El Reglamento que define su futuro"},"content":{"rendered":"\n
<\/div>\n\n\n\n
\n\n\n\n

Os compartimos el noveno art\u00edculo de Cristina Sterling<\/strong><\/a>, abogada, especialista en Derecho Procesal Civil, bancario y del Mercado de Valores.<\/strong> Este articulo pertenece a nuestra saga quincenal titulado \u201cIA en la Educaci\u00f3n: \u00bfprogreso o riesgo? El Reglamento que define su futuro\u201d<\/strong>.<\/p>\n\n\n\n

Estos art\u00edculos ayudan a entender y prevenir c\u00f3mo afectar\u00e1 el RIA a cuestiones fundamentales que impactan en la actividad y organizaci\u00f3n de las empresas y en la sociedad.<\/p>\n\n\n\n

\n\n\n\n
<\/div>\n\n\n\n

Por Cristina Sterling<\/a><\/strong><\/strong><\/p>\n\n\n\n

La inteligencia artificial est\u00e1 transformando el sector educativo con sistemas que pueden determinar el acceso y la admisi\u00f3n de estudiantes, distribuirlos entre programas acad\u00e9micos, evaluar su aprendizaje e incluso supervisar su comportamiento en pruebas. Estas aplicaciones tienen el potencial de agilizar procesos y personalizar la educaci\u00f3n, pero tambi\u00e9n plantean riesgos significativos si no se dise\u00f1an y utilizan correctamente.<\/p>\n\n\n\n

En este art\u00edculo, que pertenece a la serie dedicada al nuevo Reglamento (UE) 2024\/1689<\/strong><\/a> del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial, nos referiremos a los sistemas IA que se utilicen en la educaci\u00f3n y en la formaci\u00f3n profesional.<\/p>\n\n\n\n

Ya se ha se\u00f1alado en art\u00edculos anteriores que se entiende por \u00absistema de IA\u00bb, un sistema basado en una m\u00e1quina que est\u00e1 dise\u00f1ado para funcionar con distintos niveles de autonom\u00eda que puede mostrar capacidad de adaptaci\u00f3n tras el despliegue y que, para objetivos expl\u00edcitos o impl\u00edcitos, infiere de la informaci\u00f3n de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos f\u00edsicos o virtuales.<\/p>\n\n\n\n

Parece incuestionable que el uso de sistemas de IA en el \u00e1mbito educativo resulta ideal para fomentar una educaci\u00f3n y formaci\u00f3n digitales de alta calidad al mejorar la predicci\u00f3n, optimizar las operaciones y la asignaci\u00f3n de los recursos, as\u00ed como personalizar las soluciones digitales. No obstante, dependiendo de las circunstancias relativas a su aplicaci\u00f3n, utilizaci\u00f3n y nivel de desarrollo tecnol\u00f3gico concretos, la IA puede generar riesgos y menoscabar los intereses p\u00fablicos y los derechos fundamentales que protege el Derecho de la Uni\u00f3n. Y a ello no es ajena la educaci\u00f3n.<\/p>\n\n\n\n

As\u00ed las cosas, en la materia que ahora nos ocupa, determinados sistema de IA deber\u00e1n clasificarse como de \u00abde alto riesgo\u00bb.<\/strong><\/p>\n\n\n\n

<\/div>\n\n\n\n
\"\"<\/figure>
\n
<\/div>\n\n\n\n

Cristina Sterling<\/a><\/strong>, Abogado, colegiado en el Ilustre Colegio de Abogados de Madrid desde 1994. M\u00e1ster en Asesor\u00eda Jur\u00eddica de Empresas en el Instituto de Empresa (IE), es especialista en Derecho Procesal Civil y cuenta con una amplia experiencia en Derecho Bancario y del Mercado de Valores. Es colaboradora del Bufete Mas y Calvet desde 2008, donde tambi\u00e9n es la coordinadora del French Desk<\/a>.<\/em><\/p>\n<\/div><\/div>\n\n\n\n

<\/div>\n\n\n\n

Pensemos en los sistemas de IA dentro del campo educativo que:<\/strong><\/h3>\n\n\n\n
<\/div>\n\n\n\n

– Determinan el acceso o la admisi\u00f3n, distribuyen a las personas entre distintas instituciones educativas y de formaci\u00f3n profesional o programas de todos los niveles, <\/strong><\/p>\n\n\n\n

– Eval\u00faan los resultados del aprendizaje de las personas, eval\u00faan el nivel apropiado de educaci\u00f3n de una persona e influyen sustancialmente en el nivel de educaci\u00f3n y formaci\u00f3n que las personas recibir\u00e1n o al que podr\u00e1n acceder, o <\/strong><\/p>\n\n\n\n

– Supervisan y detectan comportamientos prohibidos de los estudiantes durante las pruebas. <\/strong><\/p>\n\n\n\n

Todos estos sistemas enumerados ser\u00edan aptos para decidir la trayectoria formativa y profesional de una persona y, en consecuencia, podr\u00edan afectar a su capacidad para asegurar su subsistencia. <\/p>\n\n\n\n

Se advierte igualmente en el Reglamento (UE) 2024\/1689<\/a> que cuando no se dise\u00f1an y utilizan correctamente, estos sistemas pueden invadir especialmente y violar el derecho a la educaci\u00f3n y la formaci\u00f3n, y el derecho a no sufrir discriminaci\u00f3n, adem\u00e1s de perpetuar patrones hist\u00f3ricos de discriminaci\u00f3n, por ejemplo, contra las mujeres, determinados grupos de edad, las personas con discapacidad o las personas de cierto origen racial o \u00e9tnico o con una determinada orientaci\u00f3n sexual.<\/p>\n\n\n\n

A estos sistemas\u00a0de alto riesgo\u00a0(al igual que a otros que afecten a otros sectores), se les aplicar\u00e1 la normativa prevista en el Reglamento\u00a0(UE) 2024\/1689\u00a0que supedita su\u00a0introducci\u00f3n\u00a0y utilizaci\u00f3n en la\u00a0Uni\u00f3n\u00a0al cumplimiento de determinados requisitos obligatorios, los cuales deben garantizar que los sistemas de\u00a0IA de alto riesgo no planteen riesgos inaceptables para\u00a0aquellos\u00a0intereses p\u00fablicos importantes de la Uni\u00f3n, reconocidos y protegidos por\u00a0nuestro derecho comunitario. <\/p>\n\n\n\n

Para mitigar estos riesgos, la normativa europea exige\u00a0requisitos estrictos<\/strong>\u00a0antes de su implementaci\u00f3n, garantizando transparencia, equidad y supervisi\u00f3n humana. Sin este marco regulador, la IA podr\u00eda convertirse en un filtro que refuerce desigualdades en lugar de una herramienta para democratizar el conocimiento.<\/p>\n\n\n\n

<\/div>\n\n\n\n
\n\n\n