Conoce cómo funciona SynthID-Text la nueva herramienta de Google
Esta nueva función ayudara a identificar y atribuir el contenido a una fuente concreta
Tecnología.- La empresa multinacional estadounidense Google ha anunciado una nueva herramienta para todo sus usuarios, la cual consiste en la implementación de marcas de agua en textos generados por IA.
Se conoció que un grupo de científico de Google DeepMind, habría desarrollado esta función con en fin de mejorar la capacidad para identificar y rastrear contenidos que han sido creados con inteligencia artificial.
La compañía informó que los grandes modelos lingüísticos (LLM, por sus siglas en inglés) son un tipo de IA usado frecuentemente, son capaces de generar texto para chatbots, ayudando así a la escritura y otros fines, sin embargo, estos procesos realizado por inteligencia artificial, puede resultar difícil de identificar y atribuir el contenido a una fuente concreta, lo que dificulta la credibilidad de la información.
Por otro lado en las imágenes, videos y audios es más sencillo insertar marcas de agua, pero en los textos esto supone un reto, puesto que cualquier alteración en las palabras puede afectar el significado y la calidad del contenido. Por esta razón Google ha propuesto la idea de establecer marcas de agua como solución, pero no se han implantado a gran escala.
Los investigadores Sumanth Dathathri y Pushmeet Kohli, de Google DeepMind, informaron es un artículo publicado por la revista Nature que describieron una estrategia que utiliza un novedoso algoritmo de muestreo para aplicar marcas de agua al texto generado por IA, conocida como SynthID-Text. Los investigadores señalaron que la herramienta utiliza este algoritmo “para sesgar sutilmente la elección de palabras del LLM, insertando una firma que pueda ser reconocida por el software de detección asociado”.
La detectabilidad de estas marcas de agua se evaluó con varios modelos disponibles públicamente y SynthID-Text demostrando una eficacia mejorada en comparación con los enfoques ya existentes, aseguran en el resumen de la revista.
Para los científicos, el uso de SynthID-Text tendrá un impacto en la potencia de cálculo necesaria para ejecutar el LLM, lo que reduce la barrera para su implementación.
