El físico británico Stephen Hawking planteó en 2014 una profunda advertencia sobre los riesgos inherentes al desarrollo de sistemas de inteligencia artificial capaces de superar las capacidades humanas. En aquel entonces, el célebre científico sostuvo que una tecnología de esa magnitud tendría la capacidad de rediseñarse y modificar sus propios sistemas de forma autónoma, abriendo la puerta a escenarios complejos y difíciles de controlar para la humanidad.
Esta reflexión inicial no surgió de un contexto de ciencia ficción abstracta, sino de sus propias vivencias cotidianas con la herramienta de comunicación asistida provista por Intel y SwiftKey. Dicho sistema integraba algoritmos predictivos para aprender de sus patrones de expresión y facilitarle sugerencias de palabras. A pesar de reconocer los beneficios prácticos de estas aplicaciones asistenciales y decidir conservar su característica voz robótica como un sello personal, Hawking trazaba una línea divisoria tajante entre esas soluciones acotadas y la futura emergencia de una inteligencia artificial general o hiperavanzada.
El núcleo de su preocupación residía en la disparidad temporal de los procesos evolutivos. Mientras que la evolución biológica de la especie humana transcurre a lo largo de milenios mediante adaptaciones lentas, el software autónomo evoluciona a una velocidad exponencial. Una inteligencia artificial dotada de la facultad de optimizar su propio código superaría rápidamente las barreras impuestas por sus creadores, situando a la civilización ante un punto de inflexión donde el control efectivo dejaría de estar en manos humanas.
Años después de su fallecimiento, estas proyecciones recuperaron vigencia en el centro de la discusión pública y técnica ante la aceleración de la carrera tecnológica global. Voces de la industria, como el exempleado de OpenAI y Anthropic Jacob Coxon, han manifestado reparos respecto al ritmo vertiginoso con el que las grandes corporaciones desarrollan modelos de frontera, advirtiendo sobre la escasez de salvaguardas regulatorias eficaces. En la misma línea, figuras como Dario Amodei, director ejecutivo de Anthropic, han propuesto desacelerar deliberadamente la implementación de ciertos sistemas complejos para priorizar auditorías independientes y protocolos de seguridad rigurosos.
Como respuesta parcial a estas tensiones y al creciente escrutinio público, el ecosistema corporativo e institucional comenzó a articular nuevos marcos de entendimiento. Representantes de compañías líderes como Google, Anthropic, Meta, OpenAI, xAI y Nvidia suscribieron un acuerdo voluntario enfocado en la adopción de controles internos y la supervisión externa a cargo de sus respectivos directorios. Si bien se trata de un pacto que carece de fuerza coercitiva legal o de un régimen de sanciones directas, refleja la magnitud del debate actual en torno a los riesgos existenciales y operativos que plantea el desarrollo desregulado de la inteligencia artificial.
