Es hora de hacer una pausa: sin una supervisión pública eficaz, la IA en las escuelas hará más daño que bien

Haciendo caso omiso de sus bien publicitados llamamientos para regular el desarrollo de la IA y suspender la implementación de sus aplicaciones, grandes empresas tecnológicas como Google, Microsoft y Meta se apresuran a eludir la regulación e integrar la inteligencia artificial (IA) en sus plataformas.

Las preocupaciones que subyacen a los llamados a tal pausa abarcan toda la gama; Aquí nos centramos en la democracia y la privacidad. El peso de la evidencia disponible sugiere que la actual adopción generalizada de aplicaciones de IA no reguladas en las escuelas plantea un grave peligro para la sociedad civil democrática y para la libertad individual.

La educación pública es un bien público y privado esencial para la vida cívica democrática. Por lo tanto, el público debe poder proporcionar una dirección significativa sobre las escuelas a través de estructuras de gobernanza democrática transparentes. Sin embargo, los debates importantes sobre los impactos potencialmente negativos de la IA en la educación se están viendo abrumados por una retórica implacable que promueve su supuesta capacidad para transformar positivamente la enseñanza y el aprendizaje. El resultado es que la IA, con poca supervisión pública, está a punto de convertirse en una presencia rutinaria en las escuelas.

Estos riesgos y daños surgen tras años de advertencias y precedentes. El uso generalizado de tecnologías digitales anteriores a la IA en la enseñanza y la administración ya ha contribuido a oscurecer la toma de decisiones educativas y ha permitido que los datos de los estudiantes sean explotados con fines no escolares. Sin una supervisión pública eficaz, la introducción de sistemas y aplicaciones de IA opacos y no probados probablemente intensificará estos problemas y creará muchos más.