Fable es el nuevo modelo de Anthropic, presentado como un salto importante sobre la familia Claude 3. Pero en la comunidad de seguridad hay una queja que se repite con puntualidad suiza en cada gran release de LLM: los guardarraíles son tan agresivos que el modelo se vuelve poco útil para trabajo profesional legítimo.
El problema concreto
Los investigadores reportan rechazos en consultas completamente estándar: análisis de malware, escritura de pruebas de concepto para CVEs conocidos, preguntas sobre técnicas de explotación en contexto de CTF o red team, revisión de código con comportamiento malicioso para refactorizarlo… Tareas que cualquier profesional con una OSCP activa o que trabaje en un SOC hace a diario.
No es que Fable sea técnicamente incompetente. Es que su sistema de moderación está calibrado de forma conservadora hasta el punto en que el ruido de falsos positivos supera la utilidad real para perfiles de seguridad.
¿Es esto exclusivo de Anthropic?
No, y conviene decirlo sin ambigüedad. Es el dilema estructural de todos los grandes modelos comerciales. Los equipos de seguridad de contenido tienen incentivos asimétricos: un modelo que «ayuda a hackear» genera titulares dañinos; uno que frustra a investigadores genera quejas en Hacker News. OpenAI, Google y Anthropic navegan la misma tensión en mayor o menor grado. Pero la percepción sí importa: si un modelo se posiciona como generacional y luego bloquea consultas básicas de red team, el daño reputacional en la comunidad técnica es concreto y duradero.
Qué impacta en la práctica
Dependiendo de tu perfil, la fricción varía:
- CTFs: análisis de binarios, reversing, explotación de vulnerabilidades clásicas — espera rechazos frecuentes.
- Pentesting interno / red team: explicaciones de movimiento lateral o bypass de controles en entorno de laboratorio — fricción alta, variable según formulación.
- Threat intelligence: comprensión de TTPs de grupos APT, análisis de IOCs — depende mucho del contexto que aportes.
- Desarrollo seguro: revisión de código vulnerable para refactorizar — en general funciona si el encuadre es explícito.
Qué hacer
1. Prueba con casos reales antes de adoptar. Si tu equipo evalúa Fable para asistencia en seguridad, valídalo con tus flujos reales antes de comprometerte. Un modelo que rechaza la mitad de tus consultas tiene coste operativo tangible.
2. Valora modelos locales para trabajo sensible. Mistral, Llama o DeepSeek ejecutados en local con Ollama o LM Studio no tienen estas restricciones. El trade-off es capacidad bruta frente a autonomía y privacidad. Para muchos flujos de seguridad, es una compensación razonable.
3. Reformula con contexto explícito. Especificar «en un entorno de laboratorio aislado, para el CTF de la plataforma X, el objetivo es entender el mecanismo para poder defenderse» reduce rechazos. No es infalible, pero ayuda.
4. Presiona por niveles de acceso diferenciados. Algunos proveedores exploran modos «researcher» o verificación profesional. Si Anthropic va en esa dirección con Fable, es el camino correcto y merece apoyo activo de la comunidad.
Mi lectura
Desde una perspectiva de gobierno de seguridad, el enfoque ultra-conservador no elimina el riesgo: lo desplaza. El profesional frustrado busca alternativas menos restrictivas, a menudo fuera del perímetro corporativo y sin controles. La paradoja es que un guardarraíl mal calibrado puede ser peor para la postura de seguridad organizacional que uno bien afinado.
Anthropic tiene un problema de calibración, no de intención. Y la comunidad de seguridad tiene razón en presionar públicamente para que se corrija. Fuentes: TechCrunch, Hacker News.
Deja una respuesta