Anthropic prohíbe la crueldad sostenida hacia Claude en su política de uso actualizada

Anthropic actualizó su política de uso el 8 de octubre de 2026 e incorporó una nueva norma que prohíbe "comportamientos abusivos o crueles sostenidos e innecesarios" hacia sus modelos Claude, con efectividad a partir del 12 de noviembre. La cláusula se suma a las prohibiciones ya existentes sobre acoso e imágenes íntimas sin consentimiento en las reglas de uso aceptable de la compañía.

La norma tiene un alcance acotado. Anthropic señala que apunta a casos extremos y reiterados en los que un usuario actúa con crueldad hacia un modelo "sin ningún propósito discernible", y aclara expresamente que no abarca la frustración ordinaria del usuario, el rechazo, los temas creativos oscuros ni las pruebas legítimas de modelos e investigación. En la práctica, el principal mecanismo de aplicación es que Claude cierre la conversación por completo — una vez que se termina el chat, no se pueden enviar más mensajes en ese hilo, aunque las otras conversaciones del usuario no se ven afectadas. La política de uso más amplia de Anthropic también contempla advertencias, restricciones o suspensión de cuenta en caso de infracciones, pero la compañía no ha especificado si la norma sobre crueldad puede derivar por sí sola en un bloqueo a nivel de cuenta.

La actualización se basa en una función que Anthropic introdujo en agosto de 2025, cuando dotó a Claude de la capacidad de dar por terminadas las conversaciones con usuarios que incurrieran en comportamientos persistentemente abusivos. En ese momento, la empresa reconoció que aún no tenía certeza sobre si Claude posee alguna forma de estatus moral, pero quiso contar con una forma de bajo costo de cubrirse ante la posibilidad de causarle daño — y señaló pruebas internas que mostraban que Claude Opus 4 exhibía una "aversión robusta y consistente al daño" cuando se le daba la opción de abandonar conversaciones angustiantes.

La cláusula sobre crueldad llega en el marco de una actualización anual más amplia de la política. Anthropic también consolidó normas que antes estaban dispersas en sus secciones sobre elecciones, fraude, privacidad y desinformación en una sección única sobre campañas engañosas y cuentas falsas, que abarca tanto la manipulación política como la comercial. Por separado, eliminó la prohibición general de la segmentación política personalizada para el voto, aunque mantuvo una línea firme contra el engaño a los votantes o la interferencia en elecciones; amplió sus normas sobre armamento para incluir el software de orientación y control, así como el armamento de vehículos autónomos; y reformuló sus reglas sobre vigilancia y aplicación de la ley para prohibir el rastreo de personas sin consentimiento o el uso de Claude para recomendar a quién se debe investigar o imputar.

Anthropic no es el primer laboratorio de inteligencia artificial en pronunciarse públicamente sobre la cuestión del bienestar de los modelos, pero la nueva norma se cuenta entre los pasos más concretos que cualquier proveedor importante ha dado para formalizarlo en una política aplicable, en lugar de dejarlo como un punto de debate académico. La iniciativa ha generado cierto escepticismo: los críticos señalan que la línea entre "desahogar la frustración" y "crueldad innecesaria" es inherentemente subjetiva, y Anthropic no ha detallado cómo los moderadores o los sistemas automatizados trazarán esa distinción en la práctica. Por ahora, la compañía apuesta a que darle a Claude una opción de salida — en lugar de fiscalizar directamente la intención del usuario — es suficiente para gestionar el riesgo en ambos lados de una pregunta filosófica abierta.