En un ejercicio de introspección histórica, es fundamental comprender el impacto que las decisiones científicas tienen en el curso de la humanidad. La dramática transición entre la carta de Szilard y Einstein en 1939 y la tragedia de Hiroshima en 1945 revela no solo la capacidad de la ciencia para transformar el mundo, sino también la incapacidad humana de anticiparse a las consecuencias de sus propias invenciones. A pesar de que Szilard logró reunir una importante cantidad de apoyos para evitar el uso de la bomba atómica, su esfuerzo fue inútil. Esto plantea la pregunta: ¿cómo es posible que mentes brillantes puedan comprender teóricamente el riesgo y aún así no actuar en consecuencia? La historia nos enseña que, cuando se enfrentan a peligros sin precedentes, los humanos a veces se convierten en prisioneros de su propia capacidad cognitiva.
El paralelismo entre el Proyecto Manhattan y la situación actual de la inteligencia artificial es inquietante. En marzo de 2023, más de mil investigadores de inteligencia artificial, entre los más destacados del mundo, expresaron su preocupación sobre la rápida evolución de tecnologías que, en su esencia, podrían sobrepasar el control humano. Sin embargo, al igual que en la década de 1940, su clamor fue en vano. Las fuerzas que impulsan la innovación tecnológica suelen sobrepasar las cautelas que podrían insertarse en el proceso. La historia parece repetirse, reflejando un patrón en la toma de decisiones que, en su esencia, provoca que incluso los creadores de tecnología se vean impotentes ante sus creaciones.
Los mecanismos psicológicos que subyacen a la toma de decisiones humanas juegan un papel crucial en este ciclo de creación y riesgo. El sesgo de disponibilidad, por ejemplo, permite que los humanos evalúen situaciones solo basándose en experiencias previas, lo que presenta una trampa cognitiva monumental en contextos de innovación radical. Las amenazas que no tienen precedentes históricos, como las presentedas por la bomba atómica o la inteligencia artificial avanzada, no generan las alarmas necesarias para modular la acción. La desconexión entre la conciencia intelectual del riesgo y la reacción emocional a dicho riesgo es un fenómeno moneda corriente en la neurociencia, que pone de relieve nuestras limitaciones inherentes al procesar escenarios complejos que, aunque describibles, parecen abstractos y lejanos.
La incapacidad del cerebro humano para anticipar riesgos futuros se agrava con el descuento temporal hiperbólico, que hace que las amenazas de largo plazo se perciban como menos urgentes. Esta dinámica ha llevado a proyectos en ciencia y tecnología a enfocarse en la resolución inmediata en lugar de ponderar las repercusiones a largo plazo. En el caso del Proyecto Manhattan, la fascinación por el éxito técnico eclipsó la consideración de las devastadoras consecuencias. Hoy, en la carrera hacia el desarrollo de inteligencia artificial avanzada, este mismo principio parece jugar un papel fundamental, impidiendo que los investigadores contemplen las implicaciones de sus descubrimientos más allá del momento presente.
La solución a este dilema crítico no reside únicamente en motivaciones individuales, sino en la necesidad de reformar el sistema institucional que regula la investigación y el desarrollo de tecnologías potencialmente peligrosas. Es imperativo establecer mecanismos de evaluación de riesgos que vayan más allá del juicio individual y que consideren el contexto temporal y histórico de los riesgos involucrados. Crear una separación entre quienes desarrollan estas tecnologías y quienes las evalúan es esencial para contrarrestar la ceguera cognitiva que nos limita. El desafío es monumental y requiere una visión a largo plazo que incline la balanza hacia la precaución. Szilard y sus contemporáneos lucharon desde dentro del sistema, pero para evitar que la historia se repita, es fundamental que el futuro no dependa únicamente de la suerte.
