Escuchar esta nota
Voz generada con inteligencia artificial por ElevenLabs. El texto es de la redacción de Finanzas y Negocios.
La nueva política, que hace que Anthropic cumpla con las normativas de la Unión Europea, fue anunciada el martes y incluirá marcas de agua incrustadas en los medios creados por Claude.
Claves de la nota
- La nueva política de Anthropic cumple con las normativas de la Unión Europea sobre transparencia de contenido de IA.
- Casi 200 empresas han firmado el Código de Buenas Prácticas sobre la Transparencia del Contenido Generado por IA.
- Google y OpenAI también han implementado o evaluado tecnologías similares para marcar contenido generado por IA.
La reacción negativa a un plan de Anthropic para empezar a incluir una marca de agua invisible en el texto y las imágenes generadas por el modelo de IA de Claude se intensificó el martes, ya que los usuarios protestaron contra la idea de que el uso de IA fuera detectable en su trabajo.
Reacciones a las marcas de agua invisibles de Anthropic
La nueva política, que hace que Anthropic cumpla con las normativas de la Unión Europea, fue anunciada el martes y incluirá marcas de agua incrustadas en los medios creados por Claude. La escritura generada por Claude llevará una filigrana invisible que “viajará con el texto cuando se copie y pegue en otro lugar”, y otros archivos que la IA cree, incluidas imágenes, ahora incluirán metadatos firmados digitalmente. Exactamente cómo se ve eso en la práctica está por verse: Anthropic dice que publicará más información sobre cómo reconocer las marcas de agua y advirtió que no serán infalibles: las marcas de agua de texto pueden borrarse si la escritura está muy editada y los metadatos de un archivo podrían desaparecer si cambia el formato, se toma una captura de pantalla o por otros medios.
La nueva política, de la que los usuarios no pueden optar por no participar, se aplicará a todos los modelos y productos Claude en todo el mundo, incluyendo Claude Code y Claude Cowork.
El plan fue recibido con una rápida reacción en X y Reddit, donde los usuarios lo calificaron de “toros—” y “enormemente problemático”, y declararon el fin de “la era de la escritura con IA imposible de demostrar”.
La mayoría de las quejas venían de personas que afirmaban usar Claude solo para corregir textos que habían escrito por su cuenta, y de programadores, que decían temer que añadir una firma criptográfica a un código “degrade la salida”.
Declaraciones sobre la medida
“Había dejado Grammarly para Claude para la corrección porque hace un mejor trabajo”, publicó el presentador de radio y bloguero Erick Erickson a X. “Pero ahora lo que he escrito llevará marca de agua que Claude hizo el trabajo. Esto es ridículo.”
El nuevo anuncio de política desató un debate en línea sobre quién debería ser reconocido por el trabajo generado por IA: ¿la máquina que la fabricó o la persona que se lo dijo? Un usuario de Reddit inició una enérgica discusión afirmando que los usuarios humanos deberían recibir crédito por el contenido generado por modelos de IA, no por la máquina: “Yo di las instrucciones, el contexto, las decisiones y un sin fin de ajustes, Claude era la herramienta”, dijeron.
Comentaristas que no estaban de acuerdo dijeron que la marca de agua no es Claude “adjudicándose el mérito, sino reconociendo que el contenido es creado por IA.”
Otros argumentaban que no reconocer la IA es poco ético: “Claude creó la obra y TODO lo que hiciste fue dar instrucciones. Si tu supervisor se acercara a ti y te diera instrucciones sobre un proyecto y, una vez que lo completas, él o ella se llevara el 100% del mérito, podrías estar comprensiblemente molesto. ¿Por qué? Porque todo lo que hizo tu supervisor fue dar instrucciones y tú aplicaste tus conocimientos y experiencia para programar”, escribió un comentarista.
Normativa de la Unión Europea
La nueva política acogida a Anthropic a una normativa de la UE llamada “Código de Buenas Prácticas sobre la Transparencia del Contenido Generado por IA”. Proporciona reglas para marcar y detectar contenido generado y manipulado por IA, así como para etiquetar deepfakes y otros textos generados o alterados por IA.
A finales de julio, casi 200 empresas habían firmado el código y aceptado cumplir, incluyendo Anthropic, Meta, Microsoft y Open AI.
Google ha estado marcando con marca de agua sus imágenes generadas por IA desde 2023 y desde entonces se ha expandido a texto, audio y vídeo. OpenAI también utiliza marcas de agua invisibles para las imágenes.
OpenAI lleva tiempo con la tecnología para marcar su salida de texto de modelos como ChatGPT, pero ha decidido no publicarlo. El debate interno sobre si desplegarlo o no lleva años en marcha, según el Wall Street Journal, pero los argumentos sobre falsos positivos, la elusión y las preocupaciones de que atraería a los usuarios a competidores han prevalecido—por ahora.
