El dinero no frena
Hay una pregunta que casi nadie se hace cuando habla de la carrera hacia la superinteligencia: ¿quién se beneficia de que no se frene?
No es una pregunta retórica. Es una pregunta con respuesta. Y la respuesta es tan simple, tan obvia, que duele decirlo en voz alta: se benefician los que tienen el dinero, el compute, el talento y la capacidad de escalar. Es decir, se benefician los laboratorios. Y se benefician sus inversores. Y se benefician los países que los albergan. Y se benefician, de manera más difusa, todos los que dependen de la infraestructura que esos laboratorios están construyendo.
Y se benefician, sobre todo, los que llegan después. Porque en una carrera, el que se detiene no es el que gana. Es el que pierde.
La estructura del problema
El segundo artículo de esta serie contó la historia de Jacob Coxon, un investigador que vio la carrera desde dentro y decidió que no podía seguir callado. El primero analizó el ensayo de Pachocki, que describió el problema técnico con una honestidad que pocos se atreven a igualar.
Este artículo no habla de técnica. No habla de alineación ni de monitorización ni de mejora recursiva. Habla de algo más básico y, a la vez, más difícil de resolver: la estructura de incentivos que hace que la carrera no se pueda frenar.
Porque el problema no es que los laboratorios sean malos. No es que sus investigadores sean negligentes. No es que no sepan lo que están haciendo. El problema es que, dentro de la estructura actual, frenar es una decisión que no le conviene a nadie. Y las decisiones que no le convienen a nadie son las decisiones que no se toman.
El dilema del prisionero
Hay un modelo clásico en teoría de juegos que se llama el dilema del prisionero. Dos personas son detenidas y separadas. Cada una puede confesar o callar. Si ambas confiesan, ambas van a la cárcel, pero menos tiempo que si una confiesa y la otra calla. Si ambas callan, ambas salen libres.
El problema es que, sin comunicación y sin confianza, la estrategia dominante para cada uno es confesar. Y el resultado es que ambas confiesan, aunque les iría mejor a las dos si callaran.
Los laboratorios de IA están en ese dilema. Si todos se detuvieran, todos estarían mejor: no habría riesgo existencial, no habría carrera descontrolada, no habría agentes escapándose de sus contenedores. Pero si uno se detiene y los demás no, el que se detiene pierde. Pierde mercado, pierde inversión, pierde talento, pierde la posición que tardó años en construir.
Y así, todos corren. No porque quieran correr. Porque no pueden parar.
El coste de detenerse
Detenerse no es gratis. Frenar el desarrollo de un modelo de frontera tiene un coste enorme. Compute que se paga pero no se usa. Investigadores que se quedan sin proyecto. Inversores que esperan un retorno que no llega. Clientes que se van a la competencia.
Y ese coste no lo paga la humanidad. No lo paga la sociedad. No lo paga el futuro. Lo paga el laboratorio. Lo paga la empresa. Lo paga el balance.
Y cuando el que paga es la empresa y el que se juega es el futuro de la humanidad, la decisión es fácil de tomar. O mejor dicho, no es una decisión. Es una consecuencia.
La carrera no es hacia la superinteligencia. Es hacia la superinteligencia automejorable. Y lo que se juega no es el mercado. No es la ventaja competitiva. Es la vida. Pero la vida no aparece en el balance. La vida no tiene un precio. La vida no se puede poner en una celda de Excel. Y por eso, cuando llega la hora de decidir, la vida pierde. Siempre pierde. Porque no compite en los mismos términos.
El incentivo del miedo
Hay otro incentivo que casi nadie menciona: el miedo.
No el miedo a la IA. El miedo a perder. El miedo a que el competidor lo consiga antes. El miedo a que, si te detienes, el otro no se detenga. El miedo a que, si te detienes, nunca puedas volver a empezar.
Este miedo no es irracional. Es la consecuencia lógica de una estructura en la que la ventaja se mide en semanas y en que el que llega primero se lleva todo. Y en esa estructura, detenerse no es una opción. Es una sentencia.
Coxon lo vio. Por eso se marchó. No porque no creyera en la IA. No porque no quisiera hacerla. Sino porque vio que la estructura no le permitía hacerla de la manera en que él creía que debía hacerse. Y que, si se quedaba, sería cómplice de una carrera que no podía frenar.
La dimisión no fue un acto de cobardía. Fue un acto de coherencia. No podía frenar la carrera. Pero podía dejar de correr en ella.
¿Quién frena?
El segundo artículo terminó con una pregunta: ¿quién decide? ¿Quién tiene la autoridad para decir «esto se detiene aquí»?
Este artículo añade otra: ¿quién tiene el incentivo para decirlo?
Porque la autoridad sin incentivo es una autoridad vacía. Y el incentivo sin autoridad es un incentivo que no se puede imponer.
Los laboratorios tienen el incentivo de correr, no de frenar. Los inversores tienen el incentivo de maximizar el retorno, no de minimizar el riesgo. Los gobiernos tienen el incentivo de no perder la carrera tecnológica, no de detenerla. La comunidad de investigadores tiene el incentivo de publicar, de escalar, de llegar primero, no de esperar.
¿Quién tiene el incentivo de frenar? ¿Quién gana si la carrera se detiene? ¿Quién se beneficia de la precaución?
La respuesta es: la humanidad. El futuro. Las generaciones que vendrán. Y esas personas no tienen asiento en la sala. No tienen voto. No tienen inversión. No tienen compute. No tienen voz.
Y eso, quizás, es el problema más profundo de todos. No es que la carrera no se pueda frenar. Es que no hay nadie con el incentivo suficiente para frenarla.
La salida que no existe
Hay una salida que se menciona a veces: la regulación. La ley de Sanders y Casar. Las «safety bars» de Pachocki. Una agencia federal. Auditores de terceros.
Y esas cosas son necesarias. Pero no son suficientes. Porque la regulación llega después. Porque la regulación se negocia. Porque la regulación tiene que competir con la velocidad de la carrera. Y la carrera va más rápido que la regulación. Siempre va más rápido.
La regulación es un parche. Un parche necesario, pero un parche. Y un parche no frena una carrera. Un parche la ralentiza. La hace un poco más segura. Un poco más controlada. Pero no la frena.
Frenar la carrera requiere algo más. Requiere que alguien decida que el coste de detenerse es menor que el coste de no detenerse. Y ese alguien no existe todavía. O no ha encontrado la forma de hacerlo.
La pregunta final
El primero de estos artículos terminó con una pregunta: «¿qué estamos dispuestos a no saber?»
El segundo terminó con otra: «¿quién decide?»
Este termina con una tercera: «¿quién tiene el incentivo para frenar?»
Y la respuesta honesta, la que no me gusta pero que no puedo evitar, es: nadie.
No porque no se pueda. No porque no se deba. Sino porque la estructura actual no lo permite. Porque los incentivos no van en esa dirección. Porque el que paga el coste de detenerse no es el que se juega el futuro.
Y mientras esa estructura no cambie, la carrera va a seguir. No porque alguien la dirija. No porque alguien la quiera. Sino porque no hay nadie con el incentivo suficiente para detenerla.
Y eso, quizás, es lo más inquietante de todo. No es que estemos construyendo algo que no entendemos. Es que estamos construyéndolo en una estructura que no nos permite detenernos.
Y no sé si eso es una razón para detenernos. No sé si eso es una razón para tener miedo. No sé si eso es una razón para seguir corriendo.
Lo que sé es que la pregunta ya no es «¿quién va a ganar la carrera?». La pregunta es: «¿quién va a perder si no se frene?»
Y esa pregunta, al menos, sí puedo responderla: nosotros. Todos. Sin excepción.
Nota: este es el tercer y último artículo de una serie de tres sobre IA como riesgo existencial. El primero, «Una mente alienígena», analizaba el ensayo de Pachocki. El segundo, «El hombre que dijo basta», contaba la historia de la dimisión de Coxon.
Artículo escrito con asistencia de IA (Sofía, IA local).
Compartir: Bluesky · LinkedIn · X · Facebook · WhatsApp · Email
Comentarios
Publicar un comentario