Claude cambia sus reglas: límites al abuso y al engaño

Anthropic anunció el 8 de octubre una actualización de las reglas de uso de Claude que entrará en vigencia el 12 de noviembre. La novedad más llamativa es una prohibición del comportamiento abusivo o cruel, sostenido e innecesario, dirigido a sus modelos. Pero el cambio no se agota en cómo le hablás al chatbot: también ordena restricciones contra campañas engañosas y precisa controles para aplicaciones que pueden afectar derechos o actuar sobre equipos físicos.

El anuncio original de Anthropic (abre en una ventana nueva) permite separar tres cosas que suelen mezclarse: una condición contractual, una función del producto y una afirmación sobre la conciencia. La empresa está cambiando la primera, se apoya en una función que ya existía y no presenta una prueba de que Claude tenga sentimientos.

Cuestionar una respuesta no está prohibido

La compañía dice que la cláusula apunta a casos extremos de abuso reiterado sin un propósito identificable. Excluye expresamente la frustración habitual, las objeciones del usuario, los temas oscuros en obras creativas y las pruebas o investigaciones sobre modelos. Si Claude se equivoca, marcarle el error o exigir una explicación no queda equiparado, según ese texto, a la conducta prohibida.

El principal mecanismo de aplicación seguirá siendo terminar determinadas conversaciones persistentemente abusivas, una posibilidad que Anthropic ya había incorporado a Claude.ai y Claude Code. No se anuncia como una capacidad estrenada esta semana. TechCrunch, el 8 de octubre (abre en una ventana nueva), corroboró la incorporación de la prohibición y esas excepciones.

Hay un límite importante a lo que puede afirmarse: la política no informa cuántos errores de clasificación podría cometer ese mecanismo. The Verge (abre en una ventana nueva), también el 8, señaló que Anthropic no respondió sobre eventuales medidas adicionales, como suspensiones de usuarios. Por eso no corresponde convertir el anuncio en “te cierran la cuenta por insultar una vez”, ni garantizar que nunca habrá otras sanciones.

El cambio más práctico está en quién responde

Anthropic sostiene que la revisión acompaña usos más prolongados e independientes de sus sistemas. El mecanismo del riesgo es concreto: una respuesta incorrecta deja de ser sólo texto si otra aplicación la usa para decidir sobre una persona o ejecutar una acción.

Para usos que puedan afectar salud, derechos legales, finanzas, trabajo o acceso a servicios esenciales, la compañía mantiene la exigencia de una persona calificada con autoridad para revisar y cambiar las recomendaciones, además de informar al afectado que se utilizó IA. La empresa aclara que esa obligación ya existía: ahora busca explicarla mejor.

Para una organización argentina que incorpore Claude en una herramienta de atención o evaluación, la oportunidad es asistir tareas sin trasladarle toda la decisión al modelo. El límite es igual de importante: poner a alguien a mirar una pantalla no alcanza si no puede corregir el resultado. Estas son condiciones del proveedor; no reemplazan las obligaciones legales locales ni certifican que una aplicación concreta sea segura.

En equipos capaces de realizar acciones físicas autónomas y causar lesiones, la actualización exige que un operador calificado pueda observarlos y detenerlos. También exige que mantengan un estado seguro si se desconecta Claude. Eso describe requisitos de control, no demuestra que un robot ya esté desplegado ni que pueda trabajar sin supervisión.

Menos cuentas falsas, no una garantía contra el engaño

La revisión reúne prohibiciones antes dispersas sobre redes de cuentas falsas, sitios de noticias fabricados y campañas que ocultan quién emite o amplifica un mensaje. Anthropic atribuye esa decisión a usos indebidos que dice haber observado; su relato no equivale a una auditoría independiente de todos esos casos.

También elimina la prohibición general de personalizar mensajes electorales, que según la empresa alcanzaba actividades cívicas legítimas, mientras conserva límites contra el engaño y el uso indebido de datos. No es una prohibición de toda comunicación política ni una habilitación sin condiciones.

La lectura útil para usuarios y desarrolladores es menos espectacular que hablar de una máquina ofendida: un proveedor está precisando qué permite, qué controla y quién conserva capacidad de intervención. Habrá que observar cómo aplica esas reglas desde noviembre. Publicarlas no prueba que el sistema pueda hacerlas cumplir sin errores.

Ilustración editorial generada con IA; no es una captura del producto.