Cuando alguien que ayud\u00f3 a entrenar los modelos de IA m\u00e1s avanzados del mundo se va y dice que la tecnolog\u00eda podr\u00eda acabar con todos, vale la pena prestar atenci\u00f3n. Eso fue exactamente lo que pas\u00f3 esta semana, y reavivo uno de los debates m\u00e1s inc\u00f3modos del sector.<\/p>\n\n
Jacob Coxon, un investigador de 27 a\u00f1os que pas\u00f3 cerca de tres a\u00f1os haciendo trabajo de preentrenamiento en OpenAI y en Anthropic, renunci\u00f3 el 9 de septiembre de 2026. No se fue en silencio. En un mensaje a sus colegas y en publicaciones p\u00fablicas, advirti\u00f3 que los principales laboratorios corren hacia una superinteligencia capaz de mejorarse a s\u00ed misma, con lo que \u00e9l llama un riesgo real de causar la extinci\u00f3n humana.<\/p>\n\n
El argumento central de Coxon es directo. Ninguna de las dos empresas est\u00e1 actuando de forma responsable, escribi\u00f3 en p\u00fablico, y sostiene que ambas corren directo hacia una superinteligencia automejorable y apuestan con nuestras vidas. Cree que las personas que construyen estos sistemas realmente piensan que la tecnolog\u00eda podr\u00eda volverse lo bastante poderosa como para acabar con la humanidad antes del fin de la d\u00e9cada, y que la carrera comercial sigue dejando el trabajo de seguridad en segundo plano.<\/p>\n\n
Lo que hace distinto a este caso es la fuente. Coxon no es un activista externo ni un competidor con intereses en contra. Trabaj\u00f3 en el entrenamiento real de modelos de frontera en las dos empresas m\u00e1s asociadas al auge actual de la IA. Asegura que sus colegas dentro de estos laboratorios est\u00e1n genuinamente asustados por el rumbo de las cosas, algo que sent\u00eda que no estaba llegando al p\u00fablico.<\/p>\n\n
La advertencia de Coxon no cay\u00f3 en el vac\u00edo. Evan Hubinger, que lidera el trabajo de alineamiento en Anthropic, respald\u00f3 la preocupaci\u00f3n en p\u00fablico y escribi\u00f3 que \u00e9l personalmente calcula en m\u00e1s de 10 por ciento las probabilidades de que la IA cause la extinci\u00f3n humana dentro de la pr\u00f3xima d\u00e9cada. Cuando la persona encargada de mantener segura la IA de una empresa dice que hay una probabilidad de dos d\u00edgitos de cat\u00e1strofe, esa no es una postura marginal dentro de la casa.<\/p>\n\n
Para dar contexto, OpenAI se fund\u00f3 originalmente para asegurar que la IA poderosa beneficiara a la humanidad y evitara justamente este tipo de desenlace. Anthropic naci\u00f3 despu\u00e9s, creada por ex empleados de OpenAI que quer\u00edan construir IA con m\u00e1s cautela. Que un investigador que trabaj\u00f3 en ambas est\u00e9 ahora dando la alarma dice mucho sobre lo r\u00e1pido que ha avanzado el campo y sobre cu\u00e1nto se tensiona esa misi\u00f3n de seguridad original frente a la presi\u00f3n comercial.<\/p>\n\n
Es f\u00e1cil archivar la idea de que la IA podr\u00eda acabar con el mundo como ciencia ficci\u00f3n y seguir adelante. Pero la lecci\u00f3n pr\u00e1ctica no es el p\u00e1nico, es la confianza y el ritmo. La misma automejora recursiva que preocupa a Coxon es lo que hace que las herramientas de IA de hoy mejoren tan r\u00e1pido, y por eso los modelos que usas en el trabajo se vuelven m\u00e1s capaces cada pocos meses.<\/p>\n\n
Para quienes lideran negocios, la se\u00f1al es que las personas m\u00e1s cercanas a la tecnolog\u00eda est\u00e1n debatiendo abiertamente si avanza demasiado r\u00e1pido para controlarla. Eso tiene consecuencias reales para la regulaci\u00f3n, para c\u00f3mo se exige cuentas a los proveedores y para cu\u00e1nto deber\u00edas depender de un solo sistema de IA sin salvaguardas. La jugada inteligente no es ignorar la IA ni temerle, sino adoptarla de forma deliberada, con supervisi\u00f3n clara de lo que hace dentro de tu empresa.<\/p>\n\n\n