La posibilidad de identificar un contenido generado por inteligencia artificial empieza a avanzar por caminos diferentes. Google permite retirar la marca de agua visible de las producciones realizadas con sus herramientas, pero conserva sistemas que permiten reconocer su origen de manera invisible; en Europa, en cambio, la identificación de determinados contenidos generados o manipulados con IA ya forma parte de las nuevas exigencias de transparencia.
“Necesitamos que exista una marca de agua”, sostuvo la especialista. Aclaró que no necesariamente tiene que ser una señal visible para el usuario: puede tratarse de una identificación digital incorporada al archivo que permita comprobar posteriormente si fue generado o modificado mediante inteligencia artificial.
La identificación invisible de Google
El caso de Google permite entender cómo funciona este sistema. La compañía desarrolló SynthID, una tecnología que incorpora una marca de agua invisible en determinados contenidos generados por sus modelos y que puede ser detectada mediante herramientas específicas, aunque la señal no aparezca sobre la imagen o el video.
“Google con su modelo Gemini había lanzado hace más de un año algo que se llama SynthID, que es básicamente una marca de agua, pero no visible para el ojo humano”, explicó Arambillet. Para la periodista, este tipo de mecanismos será cada vez más relevante a medida que las producciones artificiales reduzcan las diferencias perceptibles con aquellas realizadas por personas.
Europa convirtió la transparencia en una exigencia
La Unión Europea decidió llevar esa discusión al terreno regulatorio. El AI Act establece obligaciones de transparencia para determinados contenidos generados o manipulados mediante inteligencia artificial, entre ellos aquellos que pueden inducir a las personas a creer que están frente a material auténtico cuando en realidad fueron producidos o modificados artificialmente.
Para Arambillet, el cambio es significativo porque la identificación deja de depender únicamente de las decisiones voluntarias de las compañías. “Es uno de los mercados más grandes a nivel global y que un grupo de países exija a través de una regulación algo que hasta ahora se realiza por buenas prácticas va por el buen camino”, sostuvo.
La especialista también vinculó la posición europea con una preocupación más amplia por la soberanía tecnológica y la protección de datos. Europa no concentra el mismo número de grandes compañías de inteligencia artificial que Estados Unidos y, al mismo tiempo, tiene una extensa tradición regulatoria en materia de privacidad.
En ese escenario aparece Mistral, la empresa francesa que busca desarrollar modelos propios y competir con los gigantes estadounidenses. Arambillet la describió como “un ChatGPT francés”, desarrollado con el objetivo de entrenar modelos en Europa y con especial fortaleza en francés.
Las empresas tampoco tienen una única mirada
El debate sobre la identificación forma parte de una discusión más amplia sobre los límites y los riesgos de la inteligencia artificial. Arambillet señaló que las principales compañías del sector tienen posiciones diferentes respecto de cómo debería desarrollarse la tecnología y qué usos están dispuestas a permitir.
Uno de los casos que mencionó fue Anthropic, la empresa liderada por Dario Amodei, quien había trabajado en OpenAI antes de alejarse de la compañía. Según Arambillet, Anthropic nació con una preocupación especialmente marcada por los riesgos de los modelos avanzados y por la necesidad de acompañar su desarrollo con mecanismos de seguridad.
Esa posición también se trasladó al ámbito militar. La periodista recordó el conflicto entre Anthropic y el Departamento de Defensa de Estados Unidos por determinadas condiciones de utilización de sus modelos y lo contrastó con la postura de OpenAI, que avanzó posteriormente en acuerdos con el Pentágono.
Para Arambillet, esas diferencias muestran que no existe una única filosofía dentro de la industria de la IA. Cada compañía busca definir sus propios límites y, al mismo tiempo, posicionarse frente a una tecnología cuyo alcance todavía se está expandiendo.
El desafío de la Argentina
Para la periodista, la discusión tampoco debería quedar restringida a las empresas y los gobiernos que hoy lideran el desarrollo de la tecnología. La Argentina también necesita definir qué lugar quiere ocupar frente a una transformación que puede modificar sectores productivos, empleos y formas de producir y consumir información.
“Como país, tenemos que empezar a pensar en cuál es nuestra estrategia de inteligencia artificial”, afirmó Arambillet. A su entender, no alcanza con reaccionar frente a cada nueva herramienta: también es necesario establecer qué capacidades tecnológicas pretende desarrollar el país y cómo aprovechar una industria que concentra cada vez más poder económico y estratégico.
La especialista consideró que esa discusión todavía tiene un espacio importante por ocupar en la agenda pública. “No es que hay propuestas concretas o proyectos que se frenan en el Congreso, no está directamente. Ahí hay un gran vacante”, planteó.
El debate sobre las marcas de agua es, en definitiva, una de las primeras manifestaciones de un problema que excede a una herramienta o a una compañía. A medida que la inteligencia artificial produce contenidos cada vez más difíciles de distinguir de los realizados por personas, la tecnología y los gobiernos empiezan a buscar mecanismos para acreditar su origen. Entre las identificaciones invisibles de las empresas y las exigencias de transparencia europeas, la discusión empieza a definir una nueva pregunta para los usuarios: no solo qué están viendo, sino también quién —o qué— lo creó.
Fuente Infobae
