Un grupo destacado de investigadores en inteligencia artificial (IA) de empresas líderes como Anthropic, OpenAI, Microsoft y Meta ha lanzado una fuerte advertencia sobre el peligro inminente de una «explosión de inteligencia», un fenómeno que podría transformar radicalmente el desarrollo de esta tecnología. Junto con pioneros de la IA como Geoffrey Hinton y Yoshua Bengio, estos expertos han instado a los gobiernos a supervisar de cerca la proporción de trabajo de investigación que ya está siendo llevado a cabo por sistemas de IA. Según ellos, la automatización en el desarrollo de IA podría generar un rápido avance tecnológico, convirtiendo años de investigación en hechos en cuestión de meses, lo que hace necesario que se tomen medidas proactivas antes de que sea demasiado tarde.
El informe, impulsado por el Cambridge Programme on AI Science & Policy, destaca que la IA ya desempeña un papel significativo en el desarrollo de nuevas tecnologías, contribuyendo a escribir y optimizar código de software utilizado por las propias empresas que los crean. Cifras proporcionadas por Anthropic revelan un aumento notable en la contribución de estas herramientas; desde marzo hasta agosto de 2026, la participación de sistemas de IA en el trabajo de investigación y desarrollo ha pasado del 1% al 26%. Esto plantea la cuestión de qué sucederá cuando la IA no solo asista, sino que se encargue por completo del proceso de investigación, lo que podría desencadenar una aceleración sin precedentes en la evolución de la inteligencia artificial.
El concepto de «explosión de inteligencia» se refiere a la potencialidad de que las IA se conviertan en sus propios diseñadores, incrementando su capacidad de investigación de manera exponencial. Esto se asemeja al concepto de mejora recursiva en informática, donde una IA mejora las habilidades de otra, creando un ciclo de retroalimentación. En este escenario, un laboratorio podría operar con el equivalente digital a millones de investigadores, lo que transformaría la manera en que pensamos sobre el avance tecnológico. Sin embargo, no hay consenso sobre si esta explosión ocurrirá, ni sobre cómo se articularía, lo que enfatiza la urgentísima necesidad de que las políticas se anticipen a posibles desarrollos futuros.
Los investigadores advierten que la rapidez de estos avances no solo presenta oportunidades, sino también riesgos significativos. Una aceleración en el desarrollo de nuevas tecnologías podría superar la capacidad establecida de instituciones y gobiernos para regular y comprender estos avances. Escenarios de ciberataques, amenazas biológicas y una carrera armamentista tecnológica entre naciones son solo algunas de las preocupaciones planteadas. Además, el informe sugiere que si un país obtiene una ventaja desproporcionada en la creación de sistemas de IA, eso podría desequilibrar el orden global, haciendo que la supervisión y el control sean aún más urgentes.
En respuesta a estos desafíos, los investigadores esbozan varias propuestas clave. Estas incluyen aumentar la transparencia en el desarrollo de sistemas de IA, requiriendo que las empresas informen sobre el porcentaje de investigación automatizada y que se establezcan auditores independientes en los laboratorios. También abogan por el desarrollo de mecanismos que permitan desacelerar el progreso si se considera necesario, como imponer requisitos de seguridad específicos y mantener ciertos experimentos de alto riesgo en redes aisladas. Por último, piden la creación de planes de emergencia para responder a las consecuencias sociales potenciales de estos rápidos avances, asegurando que la humanidad esté preparada para enfrentar el futuro de la inteligencia artificial.
