Anthropic marcará los contenidos creados con Claude para identificar su origen
Por Daniela Garcia Romero.
- La compañía detrás de Claude incorporará sistemas de identificación en textos, imágenes y gráficos generados con inteligencia artificial, una medida que busca aumentar la transparencia y facilitar que usuarios y plataformas reconozcan el origen de estos contenidos.
Anthropic anunció que los nuevos modelos de Claude lanzados desde el 2 de agosto incorporarán mecanismos para identificar el contenido generado por inteligencia artificial. La decisión responde, en parte, a los nuevos requisitos de transparencia establecidos por la Ley de IA de la Unión Europea, que contempla medidas para informar cuando determinados contenidos han sido creados o manipulados mediante IA.
El sistema funcionará de manera distinta según el tipo de material. Las imágenes y gráficos incluirán metadatos basados en el estándar C2PA, diseñado para documentar la procedencia de contenidos digitales, mientras que los textos tendrán marcas de agua invisibles integradas directamente en el modelo. Estas señales no serán visibles para el usuario y estarán diseñadas para mantenerse incluso después de copiar y pegar el contenido en otras plataformas o realizar determinadas modificaciones.
Anthropic también trabaja en herramientas que permitan a usuarios y terceros detectar estas marcas y comprobar el origen de los materiales generados por Claude. Sin embargo, la compañía advierte que una marca de procedencia no debe interpretarse como una prueba absoluta de que un contenido sea humano o artificial. Con esta medida, la empresa busca avanzar hacia una mayor trazabilidad de la producción generada por IA, en un momento en que distinguir entre contenidos humanos y artificiales resulta cada vez más complejo.
