Por Marcelo Cabrol

En 1984, el psicólogo educativo Benjamin Bloom apuntó hacia lo que prometía ser una revolución en la educación.  Mostró que los estudiantes que trabajaban con tutores individuales alcanzaban niveles de rendimiento más altos que los estudiantes de la enseñanza convencional. Esto significaba que la tutoría individual tenía el potencial de transformar la educación.  Sin embargo, había algo importante a tomar en cuenta: la tutoría individual es una de las formas más caras de instrucción. El aspecto económico de la tutoría individual está en el núcleo del problema de Bloom que aún sigue sin resolverse ... ¡Hasta ahora!

Casi cuarenta años después de la formulación de Bloom, ha llegado la era de la inteligencia artificial (IA) generativa. La capacidad de la IA para crear nuevos contenidos a partir de datos de entrenamiento se ha ido construyendo desde hace años, pero 2023 será recordado como el año de la IA generativa. El entusiasmo por esta tecnología es palpable, los primeros pilotos son convincentes y su potencial transformador en numerosos campos es enorme.

Tomemos como ejemplo el mundo del empleo: la IA generativa tiene el potencial de cambiar la anatomía del trabajo, aumentando las capacidades de los trabajadores individuales mediante la automatización de algunas de sus actividades individuales. Según un reciente estudio de McKinsey, la IA generativa actual y otras tecnologías pueden automatizar actividades laborales que hoy absorben entre el 60% y el 70% del tiempo de los empleados. Los trabajadores necesitarán apoyo para aprender nuevas habilidades o renovar las que ya poseen, y algunos cambiarán a ocupaciones ya existentes o totalmente nuevas.

Es necesario un cambio radical en la educación y la IA generativa puede hacerlo posible. 

La IA generativa puede proporcionar tutoría individualizada inteligente. Personalizar la retroalimentación y apoyar las necesidades de cada estudiante es el núcleo de la formulación de Bloom. Empresas consolidadas y otras más recientes están trabajando en este campo;  Khan Academy y DuoLingo, por ejemplo, están probando tutores basados en GPT-4 que han sido entrenados con sus propios conjuntos de datos. 

La tutoría y el aprendizaje personalizado son dos caras de la misma moneda.  La inteligencia artificial generativa puede analizar el patrón de aprendizaje de cada estudiante y en función de ello personalizar el contenido y los métodos de enseñanza. Esto puede ayudar a los estudiantes a aprender a su propio ritmo y de una manera que se adapte a su estilo de aprendizaje individual.

Además, los profesores pueden convertirse en tutores personalizando su propia práctica. La IA generativa puede ayudar a los profesores al menos de dos maneras: mejorando la calidad de sus evaluaciones tanto en precisión como en eficacia y mejorando la creación de contenidos.  Más allá de la calificación automática, los sistemas de retroalimentación basados en IA tienen la capacidad de ofrecer críticas constructivas sobre la escritura de los estudiantes, incluyendo comentarios alineados con diferentes evaluaciones, lo que les ayuda a mejorar la calidad de su trabajo y a afinar sus habilidades de escritura. Las herramientas basadas en la inteligencia artificial también pueden ayudar a los educadores a crear mejores materiales para sus alumnos.  Por ejemplo, pueden identificar brechas de conocimiento en los materiales existentes y sugerir mejoras o, incluso, generar materiales totalmente nuevos. 

La IA generativa tiene el potencial de revolucionar la educación haciéndola más personalizada, eficiente y atractiva para los estudiantes. Sin embargo, como ocurre con cualquier otra tecnología revolucionaria, todos estos beneficios vienen acompañados de una etiqueta de "advertencia". Plantea riesgos y consideraciones éticas que debemos conocer y gestionar.

En primer lugar, hay temas que subyacen a la propia tecnología.  Los algoritmos de IA pueden estar sesgados si se entrenan con datos que reflejan los prejuicios existentes en la sociedad (el estudio de Leonardo Nicolletti y Dina Bass en Bloomberg es muy revelador al respecto). Las herramientas educativas impulsadas por la IA podrían reforzar las desigualdades existentes y discriminar a determinados grupos de estudiantes. También pueden recopilar datos sensibles sobre los estudiantes, como sus preferencias de aprendizaje y sus datos de rendimiento. Esta información debe manejarse con cuidado para proteger la privacidad de los estudiantes y evitar su uso indebido.

Otras advertencias provienen de las dinámicas negativas que pueden crear la IA y la personalización. Una de ellas es la falta de interacción humana: aunque las herramientas educativas impulsadas por IA pueden proporcionar retroalimentación y apoyo personalizados, no son capaces de reemplazar la interacción humana, tan importante para el desarrollo social y emocional. Una dependencia excesiva de la IA podría llevar a los estudiantes a aislarse y perder importantes habilidades sociales. Asociada a esta pérdida de habilidades sociales estaría una dependencia extrema de la tecnología de manera que los estudiantes no puedan aprender sin ella y que puede derivar en una merma de habilidades de pensamiento crítico e incapacidad para resolver problemas en ausencia de tecnología.

La buena noticia es que sabemos cómo mitigar estos riesgos. Los métodos básicos para mitigar las amenazas relacionadas con la IA generativa en la educación son los siguientes:

Recopilación de datos diversos: Los datos utilizados para entrenar los modelos de IA deben ser diversos y representativos de toda la población estudiantil. Esto puede ayudar a reducir el riesgo de que la IA perpetúe los sesgos existentes.

Pruebas periódicas para detectar sesgos: Las pruebas regulares de sesgo pueden ayudar a identificar y abordar cualquier sesgo que pueda existir en las herramientas educativas impulsadas por inteligencia artificial. Esto puede incluir pruebas de sesgo en las recomendaciones, valoraciones y comentarios de la IA.

Supervisión humana: Es importante contar con la supervisión humana para garantizar que las decisiones tomadas por la IA sean justas e imparciales. Esto puede incluir que los profesores revisen las recomendaciones y los comentarios generados por IA antes de compartirlos con los alumnos.

Transparencia: Las herramientas educativas basadas en IA deben ser transparentes en sus procesos de toma de decisiones. Esto puede ayudar a generar confianza entre alumnos, profesores y padres, y permitirles entender cómo se toman las decisiones.

Mejora continua: Las herramientas educativas impulsadas por IA deben mejorarse continuamente en función de los comentarios de estudiantes, profesores y padres. Esto puede ayudar a garantizar que la IA se utilice de forma que beneficie a todos y no perpetúe los prejuicios existentes.

En el grupo BID estamos comprometidos con potenciar el uso responsable de nuevas tecnologías. Contamos con un grupo de trabajo de IA generativa liderado por nuestro departamento de Tecnología y por el laboratorio de tecnologías emergentes, TechLab. Se trata de equipo multidisciplinario que reúne a expertos de diferentes departamentos y regiones con el objetivo de generar un impacto positivo de la tecnología en América Latina y el Caribe. Para obtener más detalles sobre sus iniciativas y avances en esta área, te invitamos a consultar el Tech Report sobre IA generativa.

Paralelamente, en BID Lab, nuestro laboratorio de innovación, trabajamos con iniciativas como fAIr LAC, la mayor alianza de nuestra región para un uso ético y responsable de la tecnología, para hacer realidad las promesas de la IA en la educación y más allá, ya que solo aplicando lentes éticos podemos servirnos de las tecnologías para construir sociedades más justas y prósperas.

Equilibrando adecuadamente los beneficios y los riesgos de la IA generativa el problema de Bloom puede convertirse ahora en la promesa de Bloom.  La IA abre las puertas a un futuro en el que la enseñanza y el aprendizaje no sean solo más eficaces y equitativos, sino que también estén profundamente personalizados, permitiendo a estudiantes capacitados alcanzar su máximo potencial y a los profesores centrarse en enseñar y fomentar conexiones significativas con sus alumnos.