Por Canuto  

Microsoft acordó con sindicatos docentes de Estados Unidos un marco de diez principios para limitar la recopilación y el uso de datos en herramientas de inteligencia artificial escolares, mientras crece la resistencia de familias y educadores a la tecnología dirigida a estudiantes.
***

  • Microsoft se comprometió a no entrenar modelos de IA con datos de estudiantes o educadores y a reducir la información que recopila.
  • El acuerdo con AFT y UFT contempla prohibir los acompañantes de IA y exigir revisión humana en decisiones de alto riesgo.
  • Los distritos escolares podrán incorporar los términos a contratos nuevos o existentes desde noviembre, sin renegociarlos por completo.

Microsoft acordó un conjunto de diez principios de seguridad y privacidad para el uso de inteligencia artificial en las escuelas de Estados Unidos, en un momento de creciente presión sobre las empresas tecnológicas. El pacto, firmado con la Federación Americana de Maestros, conocida como AFT, y su afiliada de Nueva York, la Federación Unida de Maestros, permitirá que los distritos incorporen obligaciones contractuales específicas para proteger a estudiantes y educadores.

Según The Verge, el acuerdo llega apenas una semana después de que dos de los sistemas escolares más grandes del país anunciaran prohibiciones de herramientas de IA dirigidas a estudiantes. Nueva York y Los Ángeles establecieron restricciones de un año para dar tiempo a sus distritos a evaluar usos apropiados, mecanismos de protección y los posibles riesgos de una adopción acelerada.

Un pacto para limitar los datos escolares

Uno de los compromisos centrales de Microsoft consiste en no entrenar modelos de inteligencia artificial con datos pertenecientes a estudiantes o educadores. La medida busca responder a una preocupación recurrente en las escuelas: que las interacciones, tareas, perfiles o registros producidos durante el uso de una herramienta tecnológica terminen alimentando sistemas comerciales sin una comprensión clara por parte de las familias.

El acuerdo también contempla limitar la cantidad de información que Microsoft recopila desde el inicio, en lugar de concentrarse únicamente en cómo almacena o procesa los datos después de obtenerlos. Esa diferencia es relevante para los distritos, porque reduce la exposición potencial antes de que la información llegue a los servidores de la compañía y puede facilitar la supervisión de los contratos escolares.

Otro principio exige que las familias reciban explicaciones en lenguaje sencillo sobre el funcionamiento de las herramientas de IA. La transparencia, en este caso, no se limita a publicar documentos técnicos o extensas políticas de privacidad, sino que pretende ofrecer información comprensible sobre qué hace el sistema, qué datos utiliza y qué papel conserva una persona en las decisiones que afectan a los alumnos.

Las reglas también prohíben los llamados acompañantes de IA, sistemas diseñados para mantener una relación conversacional continua con los usuarios. El acuerdo no los presenta como simples asistentes académicos, sino como una categoría que puede generar preocupaciones particulares cuando los usuarios son menores y la tecnología simula cercanía, confianza o apoyo emocional.

Decisiones de alto riesgo y responsabilidad humana

El marco negociado por Microsoft y los sindicatos docentes requiere revisión humana para las decisiones consideradas de alto riesgo. Aunque la información disponible no detalla una lista completa de esos casos, el principio establece que una herramienta automatizada no debería resolver por sí sola asuntos con consecuencias importantes para la trayectoria educativa o el bienestar de un estudiante.

La exigencia introduce una separación entre utilizar IA como apoyo y delegarle autoridad. Un sistema puede ayudar a organizar información o sugerir alternativas, pero la decisión final debe pasar por una persona capaz de revisar el contexto, cuestionar una recomendación y corregir un resultado que resulte injusto, incompleto o técnicamente defectuoso.

Desde noviembre, los distritos escolares podrán añadir los diez principios a acuerdos nuevos o existentes sin tener que renegociar sus contratos completos con Microsoft. Esa opción busca reducir las barreras administrativas para las instituciones que quieran adoptar las protecciones, aunque la aplicación dependerá de que cada distrito decida incorporar formalmente los términos a sus relaciones contractuales.

La posibilidad de hacer exigibles las reglas constituye uno de los puntos políticos más relevantes del acuerdo. Para los sindicatos, una declaración pública de buenas intenciones tendría menos valor que obligaciones incorporadas a un contrato, porque los distritos podrían utilizarlas como base para exigir cumplimiento y definir con mayor precisión las responsabilidades de la empresa.

La presión de familias, docentes y gobiernos locales

El anuncio se produce en un entorno de cautela frente a la presencia de la IA y de las pantallas en las aulas. Padres y algunos educadores han cuestionado que las escuelas adopten estas tecnologías antes de establecer límites claros, especialmente cuando los estudiantes son menores y las instituciones manejan grandes volúmenes de información personal.

La AFT también ha mantenido una postura crítica frente a la tecnología educativa, aunque al mismo tiempo ha mostrado disposición a colaborar con compañías tecnológicas para preparar a los docentes ante la expansión de la IA. En un discurso pronunciado en mayo, su presidenta, Randi Weingarten, pidió prohibir las pantallas antes del tercer grado y la IA dirigida a estudiantes antes de la secundaria.

Las prohibiciones temporales de Nueva York y Los Ángeles reflejan esa tensión entre experimentar con nuevas herramientas y proteger a los alumnos mientras se evalúan sus consecuencias. Para Microsoft, esas decisiones pueden anticipar un escenario en el que otros distritos adopten restricciones similares si no encuentran garantías concretas sobre privacidad, supervisión humana y límites de uso.

El acuerdo no elimina el debate sobre si la IA debe estar presente en las escuelas, pero cambia el terreno de la discusión. En lugar de presentar la tecnología como inevitable, los sindicatos pueden exigir condiciones específicas antes de aceptar su implementación, mientras los distritos obtienen un mecanismo para convertir principios generales en compromisos contractuales.

Formación docente y cooperación con empresas tecnológicas

La posición de la AFT combina oposición a ciertos usos de la tecnología con iniciativas de preparación profesional. El sindicato anunció un centro de capacitación en inteligencia artificial para educadores, con un presupuesto de USD $23.000.000 financiado por Anthropic, Microsoft y OpenAI, lo que muestra que su estrategia no consiste únicamente en bloquear herramientas, sino también en formar a los docentes para evaluarlas y utilizarlas con mayor criterio.

Ese financiamiento también plantea una tensión que los sindicatos deberán gestionar: las mismas empresas que desarrollan sistemas de IA participan en la capacitación de quienes podrían supervisar su uso. La existencia de aportes privados no prueba por sí sola una influencia indebida, pero vuelve especialmente importante que los programas mantengan independencia pedagógica, transparencia y criterios verificables.

Weingarten calificó los términos acordados con Microsoft como “a prueba de balas” y sostuvo que resultan necesarios porque nadie más, incluido el Gobierno federal, se ha adelantado a hacer el verdadero trabajo. Su declaración presenta el pacto como una respuesta práctica a la ausencia de reglas generales suficientemente concretas para el entorno escolar.

La dirigente añadió que las comunidades pueden “enojarse cada vez más” o actuar con decisión, y afirmó que cualquier medida inferior a disposiciones legalmente exigibles sería simplemente una lista de deseos. Esa crítica resume la apuesta de la AFT: aceptar que la IA ya forma parte de la conversación educativa, pero condicionar su expansión a controles que puedan aplicarse y revisarse.

El siguiente paso será observar cuántos distritos incorporan los principios a sus contratos y cómo interpretan conceptos como decisiones de alto riesgo, acompañantes de IA y recopilación mínima de datos. La experiencia podría influir en futuras negociaciones entre escuelas y proveedores tecnológicos, especialmente si las familias exigen conocer con precisión qué ocurre con la información de los estudiantes.

Microsoft, por su parte, obtiene una oportunidad para recuperar confianza en un mercado donde las prohibiciones temporales muestran que la adopción no está garantizada. El pacto no resuelve todas las dudas sobre la IA educativa, pero establece un precedente contractual en torno a privacidad, transparencia y supervisión humana que otros distritos podrían considerar antes de aprobar nuevas herramientas.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados