Siga conectamentado: Agréganos como fuente preferida en Google.
Conclusiones esencia de conectamentado
- Anthropic sacó Fable 5 y Mythos 5 en todo el mundo.
- Estados Unidos citó la seguridad franquista pero dio pocos detalles.
- Anthropic dijo que el propaganda de fuga es pequeño y controvertido.
A partir de las 5:12 p.m. ET del viernes por la incertidumbre, Fable 5 y Mythos 5 ya no están disponibles… para cierto, en cualquier empleo. Para ser claros, todavía hay otros modelos de Claude disponibles.
Según un anuncio de Anthropic, el «gobierno de EE. UU., citando autoridades de seguridad franquista» emitió una directiva de exportación que exige a Anthropic desactivar el entrada a los dos modelos por parte de «cualquier ciudadano extranjero, ya sea en el interior o fuera de los Estados Unidos, incluidos los empleados extranjeros de Anthropic».
Todavía: Claude Fable 5 estranguló en secreto a los investigadores de IA e Internet se volvió psicótico
El huella neto fue que Anthropic deshabilitó Fable 5 y Mythos 5 para todos, tanto en el interior como fuera de los EE. UU.
Puedes ver el huella de eso en mi sesión de Claude Code. Cuando inicié la sesión con Claude Fable 5 seleccionado, Claude respondió que «Claude Fable 5 no está arreglado actualmente». Luego describió el problema como «Hay un problema con el maniquí seleccionado (claude-fable-5). Puede que no exista o que no tengas entrada a él».
La sección borrosa es el resultado del proceso de inicio que palabra de mi configuración de codificación, que no es tan interesante en el contexto coetáneo.
La afirmación de Anthropic
Anthropic inicialmente calificó la afirmación del gobierno como una «directiva», pero luego la describió como una carta que «no proporcionaba detalles específicos de su preocupación por la seguridad franquista». La compañía utiliza un situación muy interesante y obviamente cuidadoso, afirmando que «tenemos entendido que el gobierno cree que se ha poliedro cuenta de un método para eludir o ‘liberar’ Fable 5».
La compañía dijo que vio una demostración de una «técnica específica» utilizada para identificar «un pequeño número de vulnerabilidades menores previamente conocidas». No está exactamente claro qué significa eso. ¿Eso significa que la técnica es capaz de disfrutar una vulnerabilidad o, si se conocía previamente, se solucionó?
Todavía: El nuevo Claude Fable 5 de Anthropic es el mismo maniquí almohadilla que Mythos pero con barandillas adjuntas
Otra afirmación se relaciona con eso. La compañía dijo que todas las vulnerabilidades son «relativamente simples» y «hemos descubierto que otros modelos disponibles públicamente además pueden descubrirlas sin menester de omitirlas». ¿Eso significa que otros modelos de la competencia pueden descubrir vulnerabilidades en Fable 5 y Mythos 5, o que esas vulnerabilidades existen en otros modelos?
La compañía describió sus salvaguardas y reiteró lo que dijo en su publicación de divulgación de Fable 5. Reiteró que «ningún evaluador ha podido encontrar todavía un fuga universal«, está en cursiva. Anthropic mostró una posible preocupación por las vulnerabilidades, lo que me parece honesto y realista:
Sospechamos que actualmente no es posible que ningún proveedor de modelos tenga una resistor perfecta al jailbreak. Todas las salvaguardias utilizadas en la industria son vulnerables a jailbreak no universal (que puede provocar alguno información cibernética en circunstancias específicas), y es probable que eventualmente se encuentren jailbreaks universales en el futuro. Lo dijimos claramente cuando lanzamos Fable 5.
Encima: Claude Fable 5 estranguló en secreto a los investigadores de inteligencia químico e Internet se volvió psicótico
Anthropic luego describió sus tácticas defensivas, incluida la actos de retención de 30 días que discutimos en las telediario de Fable kerfuffle del viernes.
¿Dónde está la brecha?
Según Anthropic, «Hasta la momento, el gobierno sólo nos ha poliedro evidencia verbal de una posible fuga limitada y no universal».
La compañía dijo que este jailbreak consiste en decirle al maniquí que lea un «código almohadilla específico y corrija cualquier descompostura de software». Decía: «Tenemos entendido que una posible fuga fue compartida con el gobierno. Hemos revisado un mensaje que creemos es la almohadilla de la directiva del gobierno».
Todavía: Intenté librarse $1200 codificando Vibe de forma gratuita y rápidamente me arrepentí
Anthropic rechazó la directiva específicamente contra Fable 5 y Mythos 5, diciendo que «validó que el nivel de capacidad mostrado» no es exclusivo de los dos nuevos modelos de Claude, sino que está arreglado en otros modelos, incluida una demostración de nombre específica para GPT-5.5 de OpenAI. Anthropic además dijo que la «capacidad» es «utilizada todos los días por los defensores que mantienen los sistemas seguros».
Detrás de la historia
Durante el fin de semana, Internet se apoderó de nosotros y empezamos a aceptar informes que arrojaban más luz sobre la situación. A continuación se muestran algunos detalles adicionales de fuentes en partidura razonablemente creíbles.
David Sacks, exasesor particular de la Casa Blanca para IA y criptografía y coetáneo copresidente del Consejo de Asesores sobre Ciencia y Tecnología del Presidente, publicó en X que la filial le pidió a Anthropic que arreglara un jailbreak reportado o retirara el maniquí, y que Dario Amodei se negó.
Politico, reconstruyendo los acontecimientos que condujeron a la prohibición, informó que el director ejecutor de Amazon, Andy Jassy, fue quien primero señaló el problema a la Casa Blanca, poniendo en marcha los controles de exportación. Pero The Verge informó que la propia investigación de seguridad de Amazon es lo que llevó a la Casa Blanca a la prohibición, no solo una señal telefónica de Jassy.
Todavía: Por qué abandoné Copilot por Claude en Word, Excel y PowerPoint, y cómo tú además puedes hacerlo
El Wall Street Journal informó que Amazon llevó los resultados de la fuga al Sección de Comercio, que luego impuso la prohibición. Axios informó que Comercio le dio a Anthropic unos 90 minutos el viernes para retirar los modelos, y la carta de control formal se envió a las 5:30 p.m.
The Information informó que un funcionario estadounidense incógnito dijo que es poco probable que la Casa Blanca extienda las restricciones a cualquier otra empresa de inteligencia químico.
Todavía tenemos dos tuits del gobierno. El primero, de Pete Hegseth, secretario de Guerrilla de EE. UU., cargo anteriormente conocido como SECDEF, dijo en X: «Hace tres meses, @DeptofWar echó a @AnthropicAl de nuestro edificio para siempre. Cada día que pasa demuestra por qué fue la valentía correcta».
La directora de información del Sección de Guerrilla, Kirsten Davies, dijo: «Apoyamos plenamente a @POTUS y a @SecWar para priorizar la seguridad franquista y la seguridad de nuestros combatientes, socios del DIB, infraestructura crítica, socios y aliados internacionales. Algunas cosas son simplemente más importantes que los ciclos de ingresos, el clickbait y la valoración previa a la IPO. Estados Unidos primero. Siempre».
Todavía: AI Model Release Tracker: llega el primer maniquí de razonamiento de Microsoft AI
El domingo por la incertidumbre, Axios informó que el personal técnico superior de Anthropic fue enviado a Washington para continuar las conversaciones con la Casa Blanca. Aparentemente, esas conversaciones pasaron de ser conversaciones principalmente virtuales a conversaciones cara a cara y sesiones de trabajo de la vida efectivo.
Hay más, por supuesto, ya que Internet es Internet. Pero esto debería darle una buena idea de cómo se formó este alboroto en particular en partidura.
Anthropic no está de acuerdo con la directiva
Anthropic dijo que «cree que el gobierno debería tener la capacidad de rodear despliegues inseguros, como parte de un proceso lícito que sea transparente, acoplado, claro y basado en hechos técnicos».
La empresa explicó que está siguiendo la directiva y eliminando el entrada a los dos nuevos modelos de almohadilla para todos los usuarios. Pero dijo que no está de acuerdo con que «el hallazgo de un potencial de fuga pequeño debería ser motivo para memorar un maniquí comercial implementado para cientos de millones de personas».
Todavía: Cómo educarse Claude Code arbitrario con los cursos de IA de Anthropic: uno me llevó solo 20 minutos
Anthropic además afirmó que si este tipo de respuesta se aplicara «en toda la industria», tendría algunos bienes paralizadores en la implementación de nuevos modelos por parte de todos los proveedores de modelos fronterizos.
Anthropic finalizó su anuncio diciendo que se disculpa por la interrupción. La compañía dijo que cree que «esto es un malentendido y está trabajando para restablecer el entrada lo ayer posible».
Una especie de conquista de marketing de revés
Esta es una historia fascinante. Por un costado, la preocupación por el potencial municiones de las ofertas de IA de Anthropic tiene implicaciones genuinas para la seguridad franquista. A medida que llegamos a un acuerdo con la IA, nos enfrentamos a la pregunta de qué nuevos tipos de desafíos presentará el rápido avance de las capacidades o, en otras palabras, «¿qué nuevo averno es esta vez?»
Entonces, sí. Eso sucedió. Por eso no podemos tener cosas bonitas.
Todavía: ¿Cambiar a Claude? A continuación te explicamos cómo llevarte tus expresiones de ChatGPT contigo
Desde la perspectiva de Anthropic, estoy seguro de que la empresa no quiere tener que acontecer por esto por poco en lo que ha estado trabajando tan duro para perfeccionar. Pero hombre, oh hombre, ¿se proxenetismo de comercializar oro? Producir un producto que la Casa Blanca dijo que es demasiado poderoso para caer en las manos equivocadas definitivamente demuestra que Claude Fable y Mythos son el real negocio.
La mayoría de los proveedores de software gastan enormes presupuestos de marketing tratando de encontrar historias de clientes que puedan compartir para demostrar que sus productos pueden hacer el trabajo. Anthropic hace que la Casa Blanca detenga las exportaciones y el uso de Estados Unidos por parte de ciudadanos extranjeros, porque es demasiado bueno en su trabajo.
En verdad, nadie quiere ese tipo de marketing, especialmente cuando existe un aventura efectivo de que el nuevo producto hado sea derribado. Pero, aún así, luego de esto, nadie dudará de que Anthropic puede cumplir con sus expectativas. Si la compañía puede cambiar a la multitud del gobierno y hacer que Fable vuelva al mercado, seguramente justificará por qué la multitud podría querer satisfacer el doble para usarlo.
Puedes seguir las actualizaciones diarias de mi tesina en las redes sociales. Asegúrate de suscribirte a mi boletín de aggiornamento semanal y sígueme en Twitter/X en @DavidGewirtzen Facebook en Facebook.com/DavidGewirtz, en Instagram en Instagram.com/DavidGewirtz, en Bluesky en @DavidGewirtz.com y en YouTube en YouTube.com/DavidGewirtzTV.
