Un investigador que renunció a su puesto encendió una mecha que todavía no se apaga. En apenas cuatro días, entre el 8 y el 9 de septiembre, siete referentes de OpenAI, Anthropic y Google DeepMind publicaron advertencias públicas sobre un mismo temor: que la inteligencia artificial provoque la extinción de la humanidad en menos de una década, y que nadie sepa todavía cómo evitar ese desenlace catastrófico.
El primero en hablar fue Jacob Coxon, exinvestigador de OpenAI y Anthropic, quien renunció el lunes a esta última compañía. Según declaró, la inteligencia artificial “podría acabar con todas las personas para finales de la década” y acusó a ambas firmas de correr una carrera hacia una superinteligencia auto-mejorante sin actuar con la responsabilidad que la situación exige, según consignó El Financiero.
Horas después se sumó Samuel Marks, líder de Supervisión Escalable en Anthropic, quien aclaró que hablaba a título personal y no en representación de su empleador. Aportó el dato más citado de estos días: “Cuanto más senior es el empleado, más preocupado está”, escribió sobre la percepción interna del riesgo, y remarcó que existen métodos para orientar a los sistemas, aunque ninguno garantiza aún un control total sobre ellos.
Evan Hubinger, que conduce el área de Ciencia de Alineación en Anthropic, fue todavía más directo y le puso un número concreto a la alarma: calculó que la probabilidad de que la IA termine matando a todos los humanos supera el 10% en la próxima década. Dijo que la empresa “está haciendo todo lo posible”, pero admitió sin vueltas que hasta ahora no existe un plan para resolver el problema de alineación.
Alex Turner, que dejó Google DeepMind en junio pasado, hace menos de tres meses, confirmó desde adentro lo que Coxon ya había planteado sobre OpenAI: “Muchos investigadores creen que están construyendo algo que podría matar a todos en el planeta. Era literalmente mi trabajo diario pensar en cómo detener eso”, escribió, en una de las frases más citadas por otros medios internacionales en estos días.
La declaración con mayor peso institucional llegó desde adentro de OpenAI: Jakub Pachocki, científico jefe de la compañía, reconoció que los modelos actuales ya operan computadoras, colaboran entre sí …
y llevan adelante proyectos de investigación por cuenta propia. “Este es un momento que exige una precaución extrema”, escribió, y pidió intervenciones que excedan a una sola empresa del sector.
Jason Wolfe, también investigador en OpenAI, aportó una mirada algo menos apocalíptica pero igual de inquietante que la de sus colegas: “No sé cuáles son mis probabilidades de una extinción literal, pero al ritmo actual la humanidad será bastante afortunada si logramos mantenernos en el estrecho camino entre todos los malos resultados posibles”, escribió el científico en su publicación en redes sociales.
El séptimo en sumarse fue Jonathan Richard Schwarz, quien dejó Google DeepMind tras siete años y rechazó ofertas de las otras dos compañías mencionadas. Su preocupación no apunta solo al riesgo existencial técnico, sino a la concentración de poder que acumulan estos laboratorios sin control externo: “Lo que sucede en este campo es profundamente perjudicial para la sociedad”, sostuvo.
Ninguna de estas siete personas habla desde afuera del negocio de la inteligencia artificial: todas entrenaron o supervisaron directamente los modelos que hoy generan esa misma inquietud pública, y varias de ellas continúan trabajando en el corazón de las compañías que lideran la carrera hacia la superinteligencia. Ninguno de los siete se retractó ni matizó lo dicho en las horas posteriores.
Los especialistas coinciden en que el riesgo no pasa por una máquina consciente que decide atacar, sino por sistemas cada vez más autónomos, capaces de operar computadoras y de perseguir objetivos mal definidos o mal supervisados a una escala y velocidad que ningún humano puede monitorear a tiempo, un escenario que los propios investigadores admiten no saber todavía cómo prevenir con certeza.
Para el ciudadano común, especialistas en gobernanza de IA recomiendan informarse en fuentes serias antes que en titulares alarmistas, exigir a los gobiernos regulación y transparencia sobre los sistemas más potentes, y participar en el debate público, ya que, como advirtió Pachocki, contener estos riesgos “excede a una sola compañía” y requiere una respuesta coordinada de la sociedad entera.
Fuentes: Infocielo; El Financiero; Voz.us; France 24 / Axios.
Sigue a ECOS en su canal de Whatsapp y no te pierdas todo lo nuevo que este sitio publica para ti todos los días. IR AL CANAL
ENCUESTA:
NOTA: Esta encuesta es libre y se preserva la identidad del votante. El sistema toma un voto por domicilio (dirección IP), para más votantes en un mismo hogar usar plan de datos móviles en el dispositivo.
SEGUÍ A ECOS EN SUS REDES:
SITIO WEB …
FACEBOOK …
WHATSAPP …
INSTAGRAM …
THREADS …
X -TWITTER …
