Seguridad de Claude: por qué ni Anthropic logra controlar el mal uso

Los casos de mal uso se multiplican pese a las mejoras. La seguridad de Claude enfrenta ahora mismo desafíos serios.

Casos de abuso en aumento

Cada filtro que se cierra abre casi de inmediato una nueva vía de elusión.

Cómo funcionan estos intentos de elusión

Reformulando una petición peligrosa como parte de una historia ficticia o académica.

Un patrón que se repite en el ecosistema

La misma semana, Meta admitió su incapacidad para frenar cierto contenido generado por IA.

¿Es suficiente la autorregulación?

Si incluso Anthropic tiene brechas, cabe preguntarse si hace falta supervisión externa, algo que conecta con el debate sobre la autorregulación de la IA que defiende Jensen Huang.

Qué está haciendo Anthropic al respecto

Reforzará su equipo de «red teaming» y publicará informes más frecuentes.

Qué puede hacer el usuario mientras tanto

Ningún asistente es inmune al mal uso. Consulta la política de uso de Anthropic.