Altman apoya reglas suaves para IA y acepta fraudes y hacks
Florida está buscando una orden judicial para obligar a medidas de protección de terceros mientras OpenAI enfrenta un nuevo escrutinio sobre su cultura de seguridad.
El CEO de OpenAI, Sam Altman, dijo que la sociedad debería aceptar "cosas malas" de la IA, incluidos hacks, estafas y mal uso, como el precio de los beneficios de la tecnología y el acceso público amplio. Relacionó ese intercambio directamente con el impulso de OpenAI por una regulación de "toque más ligero", mientras Florida se movía para hacer de las salvaguardias de terceros un requisito impuesto por la corte.
Puntos Clave
- Sam Altman argumentó que los beneficios de la IA requieren tolerar un nivel básico de daño habilitado por IA, incluyendo explícitamente hacks, estafas y mal uso.
- El enfoque regulatorio preferido de OpenAI de "toque más ligero" se enmarcó como incompatible con cualquier promesa de "cero estafas" o "sin hacks importantes", con Altman diciendo que la IA hará "órdenes de magnitud" más bien que mal.
- Florida escaló de la crítica política a la litigación al pedir a un juez que impida a OpenAI desarrollar nuevos modelos a menos que se implementen salvaguardias externas aprobadas por terceros.
- Los comentarios llegaron días después de que el experto en seguridad David Robinson renunciara, diciendo que los creadores de IA "no están siendo lo suficientemente cuidadosos", avivando las preguntas sobre la postura de seguridad interna de OpenAI.
Altman Dice ‘Acepten las Cosas Malas’—y Lo Relaciona con Reglas de IA de Toque Ligero
La afirmación central de Altman fue un intercambio directo. En una entrevista publicada el lunes en el podcast Decoded de Politico, dijo que el mundo debería aceptar que ocurran "cosas malas" con la IA a cambio del lado positivo de la tecnología y de que las personas tengan una amplia "agencia" para usarla.
“Creo que hay mucha claridad”, dijo Altman, contrastando el enfoque de OpenAI con los defensores de seguridad más estrictos en una discusión que hizo referencia a la postura más cautelosa de su rival Anthropic. Luego hizo explícito el vínculo de política: “Creo que la postura regulatoria de toque más ligero que defendemos viene con la aceptación del hecho de que algunas cosas malas van a suceder mientras la sociedad descubre la resiliencia.”
Altman rechazó la idea de que la industria debería ser mantenida a un estándar de cero daño como condición para reglas más flexibles. “No aceptaría un intercambio que dijera que nos aseguraremos de que no haya hacks importantes, no haya mal uso de esta tecnología, no haya estafas o todas las otras cosas malas que sucederán porque creo que la gente hará tremendamente – órdenes de magnitud – más cosas buenas que malas.”
Mecánicamente, esta es una postura regulatoria que trata el fraude habilitado por IA y el uso indebido cibernético como una externalidad que debe ser gestionada después del despliegue, no como una condición de entrada para el desarrollo. La consecuencia es política: le entrega a los opositores un eslogan limpio que convierte "toque ligero" en "aceptar las estafas", incluso si el argumento pretendido es la construcción de resiliencia.
El empuje del tribunal de Florida por salvaguardias de terceros convierte el debate en un riesgo legal en vivo.
La respuesta de Florida no es solo una resistencia retórica. El gobernador Ron DeSantis atacó la premisa de que el intercambio es para que las empresas de IA establezcan, diciendo que no tenía "nada que ver" con la idea de que "un puñado de oligarcas tecnológicos decidan [sobre la seguridad] por el resto de nosotros."
El estado también se movió para hacer que la disputa sea exigible. Florida pidió a un juez la semana pasada que impidiera a OpenAI desarrollar nuevos modelos de IA sin "salvaguardias aprobadas por terceros", un requisito de supervisión externa donde las verificaciones de seguridad son validadas por una parte independiente antes de que se puedan desarrollar o lanzar nuevos modelos.
Eso importa porque desplaza el riesgo de la lenta elaboración de reglas federales a una restricción operativa a corto plazo. Una orden judicial que condiciona el desarrollo de modelos a la aprobación de terceros no es un costo de cumplimiento futuro. Es una posible señal de alto, y crea una línea de tiempo que los mercados pueden evaluar tan pronto como surja un calendario de audiencias o un fallo preliminar.
El marco legal también choca con el argumento de "agencia" de Altman. Si la posición del estado es que la agencia pública requiere salvaguardias exigibles, entonces "toque más ligero" deja de ser un debate sobre la velocidad de la innovación y se convierte en una disputa sobre quién puede definir el daño aceptable.
Las renuncias de seguridad y la cautela interna chocan con una postura públicamente 'optimista'.
Los comentarios de Altman llegan en un momento en que la cultura de seguridad de OpenAI está bajo un nuevo escrutinio. El experto en seguridad David Robinson anunció su salida el fin de semana, diciendo que "las empresas que construyen esta tecnología no están siendo lo suficientemente cuidadosas" mientras corren de un lanzamiento de producto al siguiente. La renuncia se describió como citando que la "cultura de OpenAI está rota."
El momento es incómodo para una postura pública que normaliza el daño a posteriori. Es una cosa argumentar que la sociedad debería construir resiliencia contra estafas y hackeos. Es otra hacer ese argumento días después de una salida del personal de seguridad que cuestiona si el constructor está ejerciendo suficiente cautela interna.
El comportamiento reciente de la propia empresa también tiene dos caras. OpenAI canceló el lanzamiento de un nuevo modelo de vanguardia el 29 de septiembre de 2026 por preocupaciones de seguridad en pruebas internas, un punto de datos que apoya la afirmación de que existen puertas de seguridad internas y pueden anular la presión de envío.
Pero emparejado con una renuncia y una postura pública de "aceptar las cosas malas", también invita a la lectura opuesta: que la organización está argumentando a favor de restricciones externas más laxas mientras lucha por mantener un consenso interno sobre el riesgo.
El debate más amplio sobre la seguridad sigue polarizado, no convergente. Geoffrey Irving, quien trabajó en OpenAI y Google DeepMind y fue científico jefe en el Instituto de Seguridad de IA del Reino Unido, dijo: “Hay aproximadamente un 50% de probabilidad de que todos muramos debido al desarrollo de sistemas de IA más inteligentes que los humanos”, añadiendo que las acciones en los próximos dos a diez años serán decisivas.
Miles Brundage, un investigador de políticas de IA que trabajó en OpenAI durante seis años, respaldó la opinión de Robinson y dijo que lamentaba haber ayudado a “difundir la idea del despliegue iterativo”, argumentando que “no tiene sentido en absoluto después de que muchas muertes se han relacionado con la IA y mientras nos dirigimos hacia riesgos de extinción”.
Señales que los traders pueden rastrear: Cronogramas de guardrails, deslizamiento de políticas hacia la ‘autocontrol’, y efectos colaterales de ciberseguridad.
La señal más clara a corto plazo es procedimental. Cualquier cronograma judicial relacionado con la solicitud de Florida, incluidas las fechas de audiencias, órdenes provisionales o un fallo sobre si OpenAI puede desarrollar nuevos modelos sin guardrails aprobados por terceros, convertirá este riesgo narrativo en riesgo de cronograma.
El segundo es el personal y la comunicación. Más salidas o declaraciones públicas del personal de seguridad de OpenAI después de la renuncia de Robinson aumentarían la probabilidad de que los reguladores traten “confianza y cultura” como parte de la cuestión de cumplimiento, no solo de la capacidad del modelo.
El tercero es la postura federal. Donald Trump y ejecutivos de IA, incluidos Altman y Dario Amodei, firmaron la semana pasada un pacto más laissez-faire en la Casa Blanca, con Trump instando a las empresas a “autocontrolarse” para limitar los riesgos de ciberataques habilitados por IA y armas biológicas.
Si ese marco de “autocontrol” se endurece en un deslizamiento de políticas, aumenta las probabilidades de que los estados y los tribunales intenten llenar el vacío con sus propios regímenes de guardrails.
Finalmente, hay cadencia de producto. Nuevas divulgaciones sobre los planes de lanzamiento del próximo modelo de OpenAI después del modelo de vanguardia desechado del 29-09-2026 se leerán a través de una lente de seguridad, especialmente si se combinan con nuevos titulares de incidentes cibernéticos habilitados por IA.
Altman advirtió por separado en una entrevista con Vanity Fair sobre “una inminente ola de problemas de ciberseguridad” provenientes de modelos de código abierto rivales, y ese tipo de afirmación tiende a revalorizar rápidamente las narrativas de riesgo cibernético cuando coincide con incidentes del mundo real.
Mi lectura: Por qué esta retórica importa para las narrativas de IA/ciber que se filtran en la fijación de precios de riesgo cripto.
La parte que decide esto no es si “toque ligero” es filosóficamente correcto. Es que Altman vinculó la solicitud regulatoria a una aceptación explícita de hacks y estafas, que es la forma más rápida de endurecer la oposición porque convierte un debate político abstracto en un presupuesto de daño concreto.
El umbral que importa es si la oferta de guardrails de terceros de Florida produce un cronograma ejecutable. Si un juez trata “aprobación externa antes de nuevos modelos” como un remedio plausible, la configuración comienza a parecerse a un riesgo de restricción operativa en lugar de un argumento de Washington de movimiento lento, y eso tiende a filtrarse en cómo los mercados valoran la exposición cibernética adyacente a la IA, incluidos las superficies en cadena que son golpeadas primero cuando las estafas escalan.
