24. Anthropic rectifica su decisión más polémica

Anthropic acaba de rectificar una de las decisiones más polémicas de Claude Fable 5. El problema no era solo que el modelo limitara ciertas peticiones relacionadas con investigación en IA de frontera. El problema era que lo hacía sin avisarte. Es decir: tú pedías ayuda, Claude respondía, pero por detrás podía estar reduciendo su eficacia si detectaba que estabas trabajando en desarrollo de modelos avanzados. Después de las críticas, Anthropic da marcha atrás. La restricción sigue existiendo, pero ahora será visible: si una petición entra en esa categoría, el sistema hará fallback a Opus 4.8 o devolverá un motivo claro en la API. Esto es bastante importante. Porque una cosa es poner límites por seguridad. Y otra muy distinta es degradar una respuesta sin decirlo. La confianza en la IA no depende solo de lo que puede hacer. Depende de saber cuándo no te está dando toda su capacidad. Una de las decisiones más polémicas de CloudFable5 acaba de ser rectificada por Anthropic. El problema no era solo que el modelo limitara ciertas peticiones relacionadas con la investación en IA o con otros temas. El problema era que lo hacía sin avisarte y encubría la respuesta que te daba el modelo cambiando el PROM que tú utilizabas. Esto es un poco lo que han dicho en medios oficiales. Mi lectura es que engañaba, que lo que hacía era cambiar, modificar la respuesta para decirte otra cosa. Después de todas las críticas que ha habido de la comunidad, Anthropic ha dado marcha atrás. Y ahora mismo la restricción sigue existiendo, pero es visible. Ya se le cuenta al usuario. Para mí esto es bastante importante, porque una cosa es poner límites de seguridad y otra degradar la respuesta sin decirlo. Entonces la confianza en la inteligencia artificial es importante.