En un posteo de blog del viernes Anthropic se explayó sobre su controversial sistema de marca de agua que se anunció esta semana buscando cumplir con las reglamentaciones para la Inteligencia Artificial en la Unión Europea. La marca de agua hará que para el usuario sea más difícil fingir que escribió un texto que ha sido generado por la IA. Tal vez Anthropic llegue demasiado tarde como para preservar su relación con los usuarios más enojados que aparentemente ya han cancelado sus suscripciones. Los posteos en X muestran que muchos usuarios que se supone pagaban por el uso de Claude dicen que han roto relaciones.
El matemático e influencer de IA John Ennis se cuenta entre ellos, y posteó una captura de pantalla de su cancelación el sábado, aduciendo que la causa es “la ridícula idea de la marca de agua” de Anthropic. Muchísimos usuarios de X afirman haber cancelado sus suscripciones debido a la marca de agua. “Esto es m…da”, escribió uno. Otro calificó a Anthropic como basura en respuesta a uno de sus posteos en X sobre la marca de agua. “¿Por qué yo, que no soy ciudadano de la UE, tengo que usar la marca de agua en el trabajo que genero con una suscripción paga para usar Claude?”, pregunta otro . La explicación de Anthropic es para entendidos y criptógrafos, y uno imagina que la única forma de incluir la marca de agua en el texto es, por ejemplo, reemplazando algunos usos de “S” con “$”, y cosas parecidas.
Pero no es así. “La diferencia entre un texto con marca de agua y otro que no la tenga no será distinguible para el lector”, afirma Anthropic. Anthropic señala que el sistema surge de un famoso (para algunos) paper 2024 SynthID , lo que significa que es la misma tecnología básica que usa Google para su sistema de marca de agua SynthID. La implementación del SynthID de Google se resume rápido, tal vez demasiado rápido, en este video de Google: Cómo funciona realmente la marca de agua de Claude Con un poco más de detalle la marca de agua en el texto de Claude adopta la forma de tokens que se eligen según una clave secreta, un hilo de caracteres que Anthropic compara con PI en términos de su complejidad y azar. El sistema de marca de agua se aplica generalmente cuando no hay mucho en juego, como en la oración del ejemplo: Hoy el clima era frío y….” en que el token siguiente podría ser “gris” o “nublado”.
Por otra parte, en el caso de “París es la capital de…” el sistema de marca de agua probablemente no aplique porque solo hay un token “correcto” en esa situación: “Francia”. Allí, la elección del tiken se inclina hacia “preferencias” estadísticas que el lector humano no puede detectar, en parte porque dependen del contexto. En el ejemplo que mencionamos “nublado” podría ser la preferencia de la clave en una situación pero dependiendo del contexto podría preferir “gris” y el lector humano no tiene forma de saber cuál será y en qué momento. En un texto extenso los token estadísticamente preferidos constituyen la marca de agua y el detector podrá indicar con certeza que el pasaje ha sido generado por Claude.
En textos más breves o en determinados casos de codificación con pocas ambigüedades, la marca de agua podría no ser tan visible para el sistema de detección, que estará disponible como API. Anthropic dice que generar la marca de agua tiene un impacto “negligible” en la velocidad y costo del token. El posteo de Anthropic tiene una sección que se destaca, la del pasado sobre la edición, que deja en claro que incluso si Claude se usa solo para editar texto generado por humanos, podría aparecer la marca de agua. “Dependiendo de la extensión y de cuánto haya editado Claude, los cambios podrían no bastar como para que se detecte la participación de Claude”, indica el posteo del blog. De modo que habrá que prestar atención si eres un “editor” que usa la IA.
El artículo de Insider sobre las cancelaciones a la suscripción de Claude indica que algunos usuarios dicen que no quieren que los clientes o profesores detecten que su trabajo ha sido generado con IA porque se espera que lo haya creado un humano. Sin embargo, esas cancelaciones quizá no signifiquen demasiado y no provoquen un gran cambio en la actitud del consumidor para con Anthropic. La gente suele quejarse sobre Anthropic y otras compañías de IA en sus posteos en X, y algunos incluso hablan de cancelar su suscripción. Hay algunos de los que afirman haber cancelado que citan un reciente artículo del Wall Street Journal sobre las prácticas comerciales de la esposa del CEO Darío Amodei en el pasado, como causa de su cancelación.
Anthropic le dijo al Business Insider que la cantidad de cancelaciones que está viendo no ha aumentado desde que se anunció el sistema de marca de agua.