Miedo a la IA: ¿Qué pasó ahora?
Se llama Jacob Coxon y con un hilo de X nos tiene a todos en ascuas. Luego de su renuncia como ingeniero de OpenAI y Anthropic el pasado 9 de septiembre, Coxon eligió la red social X para manifestar que se aparta de ambas empresas porque, según sus palabras “no están actuando con responsabilidad”, y afirmó que “las personas que están construyendo la IA creen que podría matarnos a todos para fines de la década”.
Aclara que “no se trata de una maniobra de márketing” sino de una preocupación genuina por el resultado de lo que define como “una carrera por llegar primero hacia una superinteligencia auto-mejorante capaz de hackear cualquier cosa” y afirma que “ninguna otra actividad humana representa este nivel de peligro”.
Coxon también invita al usuario común a no subestimar la capacidad de la IA, y a los investigadores a pedir condiciones diferentes para el desarrollo de la IA.
Pero esto no quedo aquí, y Evan Hubinger, responsable de ciencia de la alineación en Anthropic, respaldó a su excompañero: “Jacob tiene razón en este punto: ¡realmente creemos con total seriedad que la IA podría acabar con todos los seres humanos! Personalmente, estimo que la probabilidad es superior al 10 % en la próxima década.”
Luego, Hubinger citó el último informe de riesgos de Anthropic y dijo que la amenaza que representan los modelos actuales es baja: “Lo que me preocupa es la superinteligencia que surge del auto-mejoramiento recursivo, que, como hemos dicho, está ocurriendo más rápido de lo que pensábamos”.
No es un hecho aislado
En julio, varias figuras importantes de la IA, incluidos los cofundadores de Anthropic, Dario Amodei y Jared Kaplan, el científico jefe de OpenAI, Jakub Pachocki, el científico jefe de Meta AI, Shengjia Zhao, y otros, firmaron una declaración titulada “Acelerando el avance de la IA”.
La declaración afirmaba que, para “aprovechar el potencial de la IA, la industria, el gobierno y la sociedad en general podrían necesitar la opción de ganar tiempo para abordar los riesgos emergentes, desarrollar medidas de seguridad y fortalecer la supervisión”, pero advertía que las empresas se enfrentan a una intensa presión competitiva para hacerlo unilateralmente. La declaración instaba al gobierno estadounidense a apoyar un “esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para acelerar deliberadamente el avance de la IA automatizada”.
O sea, lo que plantean es que necesitan que los estados intervengan para prohibirles avanzar, porque si ellos no lo hacen lo hará la competencia, ¿puede ser que para lograr que empresas de otros países no los dejen atrás, siembren el terror en la población?, ¿o se apela al pánico generalizado para después ser los héroes? ¿es marketing o preocupación real?
Una novela tecnológica que seguiremos mirando mientras usamos la IA para ver cómo nos veríamos en los 80s.