Las inteligencias artificiales están acostumbradas a recibir preguntas de todo tipo, pero Anthropic quiere poner límites a una conducta muy concreta: el abuso reiterado contra sus modelos. La compañía responsable de Claude ha actualizado sus políticas de uso para prohibir expresamente los comportamientos abusivos o crueles que se prolonguen sin una finalidad aparente contra su inteligencia artificial. Esta norma llega justo después de añadir una función que permite al asistente poner fin a determinadas conversaciones cuando el usuario muestre una actitud abusiva continuamente. La medida forma parte de una actualización más amplia de las normas de uso de la empresa, anunciada ayer 8 de octubre.
Aunque incluye cambios sobre campañas de desinformación, vigilancia y desarrollo de armas, uno de los aspectos más llamativos es precisamente la nueva restricción sobre el trato hacia los modelos de inteligencia artificial. Anthropic aclara, no obstante, que no pretende impedir que los usuarios expresen su descontento, cuestionen las respuestas o prueben los límites de sus sistemas. La prohibición está dirigida a situaciones extremas y reiteradas, no a las interacciones habituales con el chatbot. Cuándo parará Claude la conversación En la nueva versión de la política de uso, Anthropic incorpora una prohibición del comportamiento abusivo o cruel, reiterado e innecesario hacia sus modelos.
Según explica la compañía en su comunicado oficial, la norma se ha creado precisamente para aquellos casos extremos donde una persona es continuamente cruel con la máquina, sin que exista un propósito razonable. En este sentido, si Claude da una respuesta que el usuario considere incorrecta, este puede corregirlo, mostrar su enfado, cuestionar sus argumentos o incluso insistir en que debe hacerlo mejor. Hay que dejar claro que nada de esto estará prohibido tras la actualización. Tampoco se considerarán abusivas automáticamente aquellas temáticas creativas que tengan un toque oscuro ni las pruebas e investigaciones sobre el comportamiento de los modelos.
La empresa quiere evitar precisamente que esta nueva norma se interprete como que hay que tratar al asistente con amabilidad en todo momento, porque no es así. Por tanto, lo que pretenden es simplemente que la conversación no se torne hacia una sucesión de comportamientos crueles sin una finalidad lógica. En principio, la compañía no lo plantea como una prohibición general de insultar al chatbot en un momento dado, sino como una restricción pensada para patrones repetitivos de abuso. En este sentido, si el modelo decide terminar una conversación por este motivo, el usuario no podrá continuar enviando mensajes dentro de ese mismo chat, aunque podrá iniciar otra conversación.
Otros cambios en su Política de Uso Además del trato a Claude, la actualización, que puedes leer completamente en el enlace de arriba, también se centra en las campañas engañosas, como sería el uso de cuentas falsas o la creación de medios ficticios para ocultar quién está detrás de determinados mensajes. También han hecho ajustes en las restricciones que tienen que ver con las elecciones, el desarrollo de armas y la vigilancia. En este sentido, la política ahora prohíbe a Claude ser utilizado para rastrear a personas sin su consentimiento o para crear y mejorar herramientas de vigilancia. Y cerrando con los altos riesgos, como la salud, las finanzas o toda decisión que afecte a los derechos legales, la empresa también aclara que el modelo necesita ser supervisado por un ser humano, además de que se debe avisar a las personas afectadas cuando se haya usado el modelo.
La política actualizada entrará en vigor el 12 de noviembre de 2026, según el anuncio de la compañía. Hasta entonces, Anthropic mantiene su compromiso de seguir revisando las normas a medida que evolucionen las capacidades y los riesgos de sus sistemas.
