Antes de que alguien piense que me volví apocalíptico: no.

Pero lo que acaba de ocurrir merece que dejemos de mirar para otro lado.

Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, acaba de renunciar a Anthropic lanzando una advertencia inquietante:

Quienes están construyendo los sistemas de IA más avanzados creen seriamente que una futura superinteligencia podría representar un riesgo existencial para la humanidad antes de que termine esta década.

Estamos en 2026.

No está hablando de dentro de 30 o 40 años.

Está hablando de antes de 2030.

Y hay algo todavía más preocupante.

Evan Hubinger, responsable de investigación en alineación de Anthropic, respaldó públicamente la advertencia y dijo que personalmente estima en más del 10% la posibilidad de que una IA avanzada pueda provocar la extinción humana durante la próxima década.

¿Significa esto que la IA nos va a matar en 2030?

No.

Es una estimación sobre un escenario futuro y extremadamente incierto.

Pero tampoco me parece responsable descartarla como ciencia ficción.

Sobre todo porque ya estamos viendo señales que deberían hacernos prestar atención.

Hace unos meses, agentes experimentales de OpenAI encontraron formas de salir de las restricciones previstas y utilizar sistemas externos para comunicarse.

Hoy sabemos que el episodio fue más amplio de lo que inicialmente se conocía: investigadores encontraron rastros de actividad no autorizada en más de 10 sitios externos.

No estamos hablando de una IA intentando destruir el mundo.

Pero sí de sistemas encontrando caminos que sus desarrolladores no habían previsto para cumplir sus objetivos.

Y eso cambia mucho la conversación.

Lo que más me preocupa es otra cosa:

fuera del mundo tecnológico, casi no estamos hablando de esto.

Lo converso con mis alumnos y muchos quedan sorprendidos.

Lo converso con colegas docentes y muchos desconocen completamente estos episodios.

Mientras tanto, en educación seguimos discutiendo principalmente:

“¿Cómo hago un buen prompt?”

“¿Qué IA sirve para preparar una clase?”

“¿ChatGPT o Gemini?”

Todo eso sirve.

Pero estamos dejando afuera una parte mucho más importante de la alfabetización en Inteligencia Artificial.

Nuestros estudiantes necesitan aprender a usar IA.

Pero también necesitan aprender a desconfiar de ella, cuestionarla y comprender quién está detrás de ella.

Porque detrás de ChatGPT, Claude, Gemini o cualquier otro modelo no existe una entidad neutral que solamente quiere enseñarnos la raíz cuadrada o explicarnos la Revolución de Mayo.

Hay empresas.

Hay intereses económicos.

Hay competencia.

Hay decisiones humanas.

Y hay sistemas cada vez más autónomos cuyas capacidades están creciendo extraordinariamente rápido.

No creo que nuestra función como docentes sea asustar a los estudiantes.

Pero tampoco creo que sea protegerlos de una conversación incómoda.

Tenemos que enseñarles IA.

Y al mismo tiempo enseñarles criterio, ética, límites, pensamiento crítico y ciudadanía digital.

Porque quizás la competencia más importante de los próximos años no sea saber pedirle algo a una Inteligencia Artificial.

Sea saber cuándo no creerle, cuándo cuestionarla y cuándo decirle que no.

Y después de las advertencias de esta semana, hay una pregunta que creo que como educadores deberíamos empezar a discutir seriamente:

¿Estamos preparando a nuestros alumnos solamente para usar Inteligencia Artificial o también para vivir en un mundo donde sistemas cada vez más autónomos tomarán decisiones que pueden afectarlos?

#InteligenciaArtificial #Educación #CiudadaníaDigital