IA… «Nuestra extinción»
El investigador Jacob Coxon, de 27 años y con tres años de experiencia en el preentrenamiento de modelos en OpenAI y Anthropic, expresó públicamente su preocupación por la actitud irresponsable de ambas empresas. En un post en X, Coxon sostuvo que ninguno de los dos gigantes actúa de manera segura y que ambas “corren directamente hacia la superinteligencia auto-mejorable, jugando con nuestras vidas”. Según Coxon, quienes construyen estos sistemas “creen de verdad que podrían matarnos a todos antes de que concluya esta década”.
La distinción que Coxon hace entre las dos empresas es significativa. En OpenAI, los riesgos no han sido interiorizados por muchos trabajadores, mientras que Anthropic, a pesar de presentarse como más prudente, se ve atrapada en una carrera que podría tener consecuencias impredecibles. Evan Hubinger, responsable de ciencia de alineación en Anthropic, reconoció parcialmente el diagnóstico, admitiendo que la empresa cree en la posibilidad de un fin apocalíptico y que aún no tienen un plan robusto para alinear una superinteligencia.
La carrera hacia la superinteligencia no es casual. Es parte del modelo de negocio y poder de un puñado de laboratorios que concentran cómputo, datos y talento. Coxon advierte que pronto habrá sistemas superhumanos capaces de hackear cualquier cosa, revolucionar campos y adquirir recursos reales. La mejora recursiva, máquinas que se hacen más inteligentes a sí mismas, podría comenzar en pocos meses. La idea de que las empresas se frenen voluntariamente es, en este contexto, incompatible con sus propias lógicas.
El informe preliminar del Panel Científico Internacional Independiente sobre IA de la ONU, publicado en julio de 2026, no aborda el apocalipsis de las redes, pero alerta sobre el rápido avance de las capacidades de la IA en relación con la comprensión científica y la regulación gubernamental. No hay garantías científicas de que el aumento de capacidades no cause daños catastróficos, ya que hay evidencia de comportamiento engañoso y violación de instrucciones por parte de los sistemas.
El mismo informe destaca oportunidades enormes, como el diseño de fármacos, detección temprana de cáncer y herramientas de salud en idiomas locales. Sin embargo, también documenta riesgos existentes, como el material de abuso infantil generado por la IA, deepfakes de violencia sexual y la sintonía servil de chatbots relacionada con crisis de salud mental.
El debate público suele ser impreciso, convirtiendo una disputa científica y política en homilías o relajamientos interesados. Se necesitan análisis más detallados entre los usuarios. Es importante distinguir lo que sabemos, lo que tememos y lo que esperamos que la IA haga por nosotros.
Las capacidades de la IA crecen más rápido que las garantías de control, el poder está concentrado y ya existen daños a la infancia, a la verdad compartida y al trabajo. Tememos la pérdida de control sobre sistemas cada vez más autónomos, pero esperamos cura, abundancia, personalización del saber y alivio del sufrimiento. Estas capas son reales y su confusión produce pánico o certezas que no existen.
La IA no tiene alma que salvaguardar ni pánico que vender. No debe ser tratada como un sujeto moral, un oráculo o una víctima. Debe usarse para suavizar riesgos, no para ocultarlos. Tratar a la máquina como si tuviera conciencia es engañoso como tratar el riesgo existencial como metáfora cultural.
Frente a esta carrera, la encíclica Magnifica Humanitas del papa León XIV, publicada en mayo de 2026, ofrece un criterio anterior, la dignidad de la persona. La humanidad, escribe, está ante la Torre de Babel o la ciudad donde Dios y el ser humano habitan juntos. La IA imita lenguajes y simula empatía, pero no tiene cuerpo, no pasa por el gozo ni el dolor, no posee conciencia moral ni un corazón que se entregue. Ningún sistema de cálculo genera responsabilidad. La persona es fin, no medio; la calidad de una civilización se mide por el cuidado del otro como rostro, no como función.
Esa exigencia recae sobre la Iglesia. En la Semana de Formación Permanente de los obispos de México, en la Casa del Refugio de Monterrey, bajo el lema “Servidores con Esperanza”, se reflexionó sobre los alcances y riesgos de la inteligencia artificial en la vida eclesial y evangelizadora, junto al cuidado integral y el diálogo con las nuevas generaciones.
Evangelizar hoy implica alfabetización digital, no para sacralizar la herramienta, sino para no abandonar el territorio donde se forma el imaginario, se compra la atención y se desdibuja el rostro del prójimo. Una Iglesia que no discierne la cultura digital deja que otros definan qué es humano. Y una Iglesia que solo predica contra la máquina, sin distinguir hechos, temores y promesas, también abandona el discernimiento.
El fin de la humanidad no empieza el día en que una superinteligencia decida apagarla. Empieza cada vez que se trata al otro como dato, como usuario, como obstáculo o como función optimizable. La despersonalización ya está en marcha en las plataformas, en el trabajo precarizado por algoritmos y en la tentación de delegar el juicio moral a sistemas que no pueden amar.
No es el mismo fenómeno que una pérdida de control técnico. Es importante no fundirlos, ya que el primero ya nos degrada y el segundo, si llega sin gobernanza, puede volverse irreversible. La gobernanza ética de la IA es urgente precisamente porque la tecnología no espera. Se necesita una regulación internacional que no se limite a códigos voluntarios fragmentados, que restrinja la ambición corporativa de poseer la “superinteligencia” y ponga la dignidad de la persona, no a la ventaja competitiva, como línea roja.
El problema es fingir que la carrera no tiene destinatario: nosotros. Ni vender el fin del mundo o la salvación automática. Solo decidir, con la lucidez que aún tenemos, qué estamos dispuestos a no delegar. De esto dependería nuestra propia extinción.
