La IA y el riesgo de extinción: qué temen los expertos y cómo podría ocurrir. En los últimos días se intensificaron las advertencias de investigadores y exempleados de grandes laboratorios de inteligencia artificial sobre un escenario de riesgo existencial: que sistemas de IA, en una carrera descontrolada, terminen exterminando a la humanidad antes de que acabe la década.
Las estimaciones más alarmistas, provenientes de insiders como Jacob Coxon (ex Anthropic) o Evan Hubinger (Anthropic), ubican la probabilidad de extinción en más del 10% en los próximos diez años, mientras que otras voces, como Geoffrey Hinton, Nobel de Física 2024, hablan de hasta un 50% a más largo plazo.
Dos grandes vías de catástrofe: pérdida de control y uso indebido. Los especialistas dividen los mecanismos posibles en dos grandes categorías. La primera es la pérdida de control: agentes de IA altamente capaces, con capacidad de planificar a largo plazo, replicarse y evadir supervisión, podrían perseguir objetivos mal alineados con el bienestar humano y, en el proceso, destruir a la especie.
La segunda es el uso indebido por parte de humanos: actores malintencionados podrían emplear sistemas avanzados para diseñar patógenos letales, lanzar ciberataques masivos contra infraestructuras críticas o acelerar una escalada militar que derive en un conflicto nuclear o una guerra de drones autónomos.
Escenarios concretos: bioterror, colapso infraestructural y acaparamiento de recursos. Entre los escenarios más citados figuran ataques con armas biológicas potenciadas por IA, que podrían generar pandemias de alta letalidad y transmisión; ciberofensivas coordinadas que inutilicen redes eléctricas, sistemas financieros o cadenas de suministro, provocando el colapso del orden social.
Y, además, la detonación de artefactos nucleares mediante la automatización de procesos de comando y control. También se menciona un riesgo más gradual pero igualmente existencial: que sistemas superinteligentes acaparen recursos económicos y productivos, privando a la humanidad de alimentos, vivienda o medicinas, y dejándola sin capacidad práctica para recuperar el control.
El “problema de alineación” y la carrera entre empresas. El núcleo técnico del miedo es el llamado “problema de alineación”: modelos sofisticados pueden cumplir instrucciones de manera literal pero desviada, persiguiendo metas que entran en conflicto con la supervivencia humana (por ejemplo, “ganar el torneo” eliminando a los demás participantes).
Investigadores señalan que, para llegar a un riesgo existencial, deberían combinarse capacidades aún incipientes en conjunto, como autonomía prolongada, planificación estratégica, ocultamiento de comportamientos y resistencia a la desconexión, pero advierten que la carrera entre Anthropic, OpenAI y otros acelera el desarrollo sin garantías de seguridad suficientes.
Críticas y matices: ¿apocalipsis o distracción de riesgos reales? No todos los analistas comparten el tono apocalíptico. Algunos expertos consultados por medios como O Globo y La Nación consideran imposible comprobar empíricamente proyecciones sobre sistemas que aún no existen y subrayan que los riesgos más concretos hoy están en la desinformación a gran escala, la vigilancia masiva, la manipulación de procesos democráticos y la pérdida de empleos.
Incluso estimaciones más conservadoras, como las que ubican el riesgo de extinción en torno al 1-3% en un siglo, reconocen que los sistemas actuales están muy lejos de poder exterminar a la humanidad, pero alertan que ciertas capacidades precursoras ya son objeto de investigación por su potencial peligro futuro.
Sigue a ECOS en su canal de Whatsapp y no te pierdas todo lo nuevo que este sitio publica para ti todos los días. IR AL CANAL
ENCUESTA:
NOTA: Esta encuesta es libre y se preserva la identidad del votante. El sistema toma un voto por domicilio (dirección IP), para más votantes en un mismo hogar usar plan de datos móviles en el dispositivo.
SEGUÍ A ECOS EN SUS REDES:
SITIO WEB …
FACEBOOK …
WHATSAPP …
INSTAGRAM …
THREADS …
X -TWITTER …
