El componente humano: clave para gobernar la IA y su uso en la educación

Un simposio sobre la responsabilidad social de la computación

El 30 de abril, el Social and Ethical Responsibilities of Computing (SERC) del MIT Schwarzman College of Computing organizó un simposio de día completo dedicado a examinar cómo la inteligencia artificial está moldeando la sociedad y qué responsabilidades éticas conlleva su desarrollo y despliegue. Además de conferencias sobre proyectos financiados por las últimas ayudas semilla de SERC —por ejemplo, trabajos vinculados al pronóstico de contaminación del aire y al despliegue responsable de visión por computador— el encuentro incluyó paneles sobre alineación de IA, uso educativo y una charla principal a cargo de Jon Kleinberg.

La jornada también contó con una sesión de pósteres donde estudiantes presentaron proyectos desarrollados como parte del programa SERC Scholars. Brian Hedden, co-decano asociado de SERC, destacó la amplitud de investigación orientada a que la computación y la IA sean fuerzas que beneficien a la humanidad. Nikos Trichakis, otro co-decano asociado, recalcó que la misión de SERC es que la reflexión ética avance de la mano con el progreso técnico.

Por qué el factor humano sigue siendo imprescindible

Aunque los avances técnicos en IA son notables, las discusiones del simposio coincidieron en que los elementos humanos —valores, juicio institucional y comprensión del contexto— son decisivos para que estas tecnologías aporten beneficios reales y no reproduzcan daños.

Varios ponentes subrayaron que el problema no es solo técnico: se trata de decidir qué valores se codifican, quién toma esas decisiones y cómo se traducen las preferencias humanas en comportamientos de máquinas. Estas preguntas cruzan disciplinas y requieren tanto filosofía y ciencias políticas como ingeniería.

Alineación de IA: ¿qué significa incorporar valores humanos?

En un panel moderado por Dylan Hadfield-Menell, profesor asociado de EECS, se abordaron las tensiones que surgen al intentar “mesclar” la moral humana con sistemas poderosos y en rápida evolución. Iason Gabriel, filósofo y científico de Google DeepMind, ilustró su comentario con una analogía: la de un juez. No se espera que un juez sea perfecto, sino que tenga buen carácter y aplique las reglas con interpretación razonable. De forma similar, dijo Gabriel, no es apropiado modelar la IA como algo perfecto; más bien, debería ejecutar lo que se le pide usando un carácter que interprete conforme a nuestros valores morales.

Bailey Flanigan, profesora asistente de ciencia política en una plaza compartida con SERC y EECS, resaltó que un problema clave de la alineación es decidir quién tiene la autoridad para gobernar distintos tipos de sistemas de IA. La pregunta sobre legitimidad y representación es central cuando las decisiones sobre diseño y uso afectan a poblaciones diversas.

Bernardo Zacka, profesor asociado de ciencia política, añadió otra arista: al ritmo de despliegue y la complejidad institucional, es urgente entender la sabiduría contenida en los sistemas que estamos reemplazando y por qué esos sistemas operan como lo hacen. En otras palabras, no basta con diseñar nuevas herramientas; conviene entender las funciones sociales y las prácticas que están sustituyendo.

A pesar de los retos, los panelistas mostraron cierto optimismo sobre la trayectoria de la alineación, siempre que los componentes humanos participen activamente en el diseño y la gobernanza.

IA en la educación: entre descargar trabajo y potenciar aprendizaje

Otro tema central fue el uso de IA en aulas y procesos formativos. Marta McAlister, directora de Gemini for Education, y profesores del MIT debatieron cómo las herramientas ya están entrando en la enseñanza y qué significa hacerlo de forma alineada con objetivos pedagógicos.

Eric Klopfer y Samuel Madden, co-presidentes del Comité Ad Hoc sobre el Uso de IA en Enseñanza, Aprendizaje y Formación de Investigación del MIT, enfocaron el dilema en torno a si la IA simplemente descarga labores de los estudiantes o si verdaderamente ayuda a construir comprensión. Madden describió el proceso de aprendizaje como una secuencia de ensayos y errores —un proceso que él llamó “cognitive struggle”— y advirtió que la tendencia actual del estudiantado es recurrir a la IA ante la primera dificultad. Eso puede impedir la adquisición real de la habilidad que se pretende evaluar.

Klopfer añadió que, pasado cierto punto, el pensamiento crítico deja de ser parte esencial del producto final porque los estudiantes delegan demasiadas decisiones al asistente. Su propuesta práctica sugiere revisar y podar el currículo: en lugar de seguir añadiendo contenidos, conviene priorizar lo esencial para que las tareas mantengan un nivel de desafío adecuado.

Justin Reich, moderador y director del Teaching Systems Lab, señaló una dimensión conductual: aunque los adolescentes frecuentemente saben que el uso indiscriminado de IA es problemático, ese conocimiento no siempre frena su uso. Incluir a los estudiantes en discusiones sobre cómo se implementa la IA en la enseñanza y propiciar intercambios reflexivos entre docentes y alumnos puede ayudar a que ellos mismos decidan cuándo y por qué usar estas herramientas.

Los panelistas concordaron en que no existe una política única aplicable a todos los contextos. El despliegue debe ajustarse al propósito educativo, al nivel de formación y a las expectativas éticas del entorno.

Relevancia para América Latina

Las reflexiones del simposio son altamente pertinentes para instituciones, reguladores y líderes educativos en América Latina. Aunque los contextos varían, las preguntas sobre gobernanza, representatividad de valores y impacto en la formación profesional son universales. En la región, donde los sistemas educativos y las capacidades institucionales difieren entre países y sectores, es clave diseñar políticas flexibles que integren voces locales y mecanismos de rendición de cuentas.

Para los responsables de decisión latinoamericanos, las lecciones prácticas incluyen: revisar currículos para priorizar competencias difíciles de automatizar, involucrar a la comunidad educativa en decisiones sobre herramientas, y estudiar las funciones de los sistemas anteriores que se pretenden reemplazar antes de acelerar despliegues masivos.

Conclusión: técnica y ética, avanzando juntas

El simposio de SERC recordó un punto claro: el progreso técnico en IA no puede separarse de la reflexión ética y la participación humana. Alinear sistemas con valores requiere diálogo interdisciplinario, decisiones de gobernanza explícitas y una atención constante a cómo las tecnologías interactúan con instituciones y prácticas sociales. Para quienes lideran la adopción de IA en empresas, gobiernos y universidades, la invitación es a colocar el componente humano en el centro del diseño y la regulación, no como un añadido, sino como una condición necesaria para que la IA cumpla su promesa social.