Esta semana los grandes nombres de la IA parecen haberse puesto de acuerdo en algo inesperado: hay que frenar. Un ex investigador renunció advirtiendo sobre el riesgo de extinción, Dario Amodei pidió un límite de velocidad para la industria, y hasta Sam Altman y Elon Musk estuvieron de acuerdo. Mientras tanto, Apple por fin promete una IA de verdad en tu iPhone.
Filtré el ruido por ti
Esto es lo mejor de la semana, resumido para ti:
- Un ex investigador de Anthropic y OpenAI renunció y advirtió que la IA podría causar la extinción humana.
- Apple lanza iOS 27 con un Siri renovado por IA (el español llega en octubre).
- Dario Amodei pidió frenar el desarrollo de la IA y obtuvo el respaldo de Altman y Musk.
- Sam Altman descartó salir a bolsa en 2026 y abrió la puerta a ralentizar los modelos.
- Anthropic acusó a Moonshot de enrutar consultas de usuarios a Claude en secreto.
1. Uno de los que crean la IA renunció y advirtió que podría acabar con todos
Jacob Coxon, un investigador de 27 años que trabajó en el preentrenamiento de modelos en OpenAI y Anthropic, renunció el 9 de septiembre con una advertencia contundente. Dijo que los laboratorios corren hacia una superinteligencia capaz de mejorarse a sí misma, con un riesgo real de causar la extinción humana. No es un crítico externo: es alguien que vio el proceso desde adentro en las dos empresas más importantes del sector, y asegura que hay gente dentro que está genuinamente asustada.
2. Apple por fin le pone IA de verdad a tu iPhone
Apple lanza iOS 27 con un Siri completamente renovado gracias a Apple Intelligence. El nuevo asistente entiende contexto personal, reconoce lo que hay en tu pantalla y puede ejecutar acciones entre apps, algo que el viejo Siri nunca logró. Al inicio funciona solo en inglés, pero el soporte para español, francés, japonés, coreano y portugués llega en octubre.
3. Anthropic dice que la IA va peligrosamente rápido, y sus mayores rivales lo admiten
Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo a la industria frenar el ritmo al que mejora sus modelos más avanzados. Calificó el crecimiento exponencial como una señal de alarma y advirtió sobre enjambres de agentes descontrolados. Lo llamativo: sus rivales más feroces estuvieron de acuerdo. Sam Altman respondió que hay que marcar el ritmo de la frontera y Elon Musk resumió su postura en tres palabras: Dario tiene razón.
4. ¿Por qué Sam Altman está frenando OpenAI en silencio?
Sam Altman les dijo a sus empleados que OpenAI está dispuesta a ralentizar el desarrollo de sus modelos más avanzados por preocupaciones de seguridad. También confirmó que no habrá salida a bolsa en 2026, describiendo el momento como poco aconsejable. Es un giro notable para el ejecutivo que construyó su reputación sobre la velocidad.
5. ¿Moonshot AI es secretamente Claude pero más barato?
Anthropic publicó un reporte acusando a Moonshot AI, la creadora de la app Kimi, de reenviar en secreto las peticiones de sus usuarios a Claude y presentar las respuestas como propias. Según Anthropic, Moonshot usó 5.380 cuentas fraudulentas para esquivar el bloqueo a China, y en un solo caso detectó cerca de 300.000 consultas dirigidas a su modelo Opus. El caso pone en duda algo básico: saber qué IA te está respondiendo de verdad.
Bonus: Contenido de la semana
Esta semana vale la pena ver la entrevista a Luca Ferrari, fundador de Bending Spoons, sobre el futuro del software como servicio (SaaS). Su empresa opera casi como un fondo: compra empresas de SaaS y las optimiza. Entre sus adquisiciones recientes están Airtable y Miro, el competidor de Figma.
