La competencia feroz entre algunas de las compañías tecnológicas más grandes del mundo ha llevado a una profusión de herramientas de IA que pueden suscitar prosa en forma de humano e imágenes, audio y video extrañamente realistas. Si proporcionadamente esas compañías prometen ganancias de productividad y una revolución de la creatividad con IA, los temores asimismo han comenzado a doblar en torno a la posibilidad de un Internet que está tan completamente confuso por el contenido generado por la IA y la información errónea que es irrealizable opinar lo actual de la falsa.
Muchos desarrolladores líderes de IA han aumentado, en respuesta, sus esfuerzos para promover la transparencia y la detectabilidad de la IA.
Además: Google Flow es un nuevo turbina de videos de IA destinado a los cineastas: cómo probarlo hoy
Más recientemente, Google anunció el dispersión de su detector Synthid, una plataforma que puede detectar rápidamente contenido generado por IA creado por uno de los modelos generativos de la compañía: Gemini, Imagen, Lyria y VEO.
Cómo funciona el detector de synthid
Decidido originalmente en 2023, Synthid es una tecnología que incorpora marcas de agua invisibles, una especie de huella digital que puede ser detectada por máquinas pero no por el ojo humano, en imágenes generadas por IA. Las marcas de agua de Synthid están diseñadas para permanecer en su superficie incluso cuando las imágenes se han cortadura, filtrado o sufrido algún otro tipo de modificación.
Desde entonces, los modelos de IA se han vuelto cada vez más multimodales o pueden interactuar con múltiples formas de contenido. Gemini, por ejemplo, el chatbot de Google que se lanzó en respuesta al éxito virulento de ChatGPT, puede contestar a un mensaje de texto generando una imagen o a una imagen cargada con una respuesta de texto. Los desarrollos en audio y video generados por IA, mientras tanto, asimismo se han movido rápidamente.
Por otra parte: dejé que el agente Jules AI de Google en mi repositorio de código e hizo cuatro horas de trabajo en un instante
Por lo tanto, Google ha expandido Synthid para que pueda marcar agua no solo imágenes generadas por IA, sino asimismo texto, audio y video.
Synthid Detector es un portal en confín que facilita la detección de una marca de agua Synthid en los medios generados por una de las herramientas de IA generativas de Google. Los usuarios simplemente cargan un archivo, y el sistema de detección de Google lo escanea para una marca de agua. Informa que se detectó una marca de agua, no se detectó, o que los resultados no son concluyentes.
Las imágenes generadas por Gemini vienen automáticamente con marcas de agua incrustadas. Sin secuestro, el detector de Synthid está diseñado para unir otra capa de transparencia, lo que facilita la comprobación de la presencia de esas marcas invisibles.
Google anunció el martes que está implementando el detector de Synthid inicialmente a un montón de primeros evaluadores antaño de un dispersión notorio más amplio. Además está ofreciendo paso a una repertorio de dilación para periodistas, profesionales de los medios e investigadores de IA.
Además: los mejores chatbots de IA: chatgpt, copilot y alternativas notables
«Para continuar informando y empoderando a las personas que se involucran con el contenido generado por la IA, creemos que es vivo continuar colaborando con la comunidad de IA y ampliar el paso a las herramientas de transparencia», escribió Pushmeet Kohli, vicepresidente de iniciativas de ciencia e estratégicas en Google Deepmind, en una publicación de blog de la compañía publicada el martes.
La compañía asimismo anunció el martes una nueva asociación con GetReal Security, una firma líder de ciberseguridad especializada en detectar información errónea digital.
El impulso de la transparencia
Enfrentando la presión de los reguladores en Europa y los EE. UU. Que piden una maduro responsabilidad en el sector de la IA, así como un creciente coro de voces públicas que advierten los peligros de los profundos de IA, las grandes compañías tecnológicas ya no solo están compitiendo para construir los modelos más poderosos, asimismo compiten para proporcionar la identificación de los medios generados por IA.
Herramientas como el detector Synthid de Google, en otras palabras, son parte de un impulso continuo entre los desarrolladores de IA para animar su reputación como líderes en seguridad y transparencia.
Además: las 20 mejores herramientas de IA de 2025, y la cosa #1 para recapacitar cuando las usas
Si proporcionadamente la Regulación de Protección de Datos Mundial de Europa (GDPR) y la Ley de IA requieren que las empresas de IA tengan algunos mecanismos de transparencia establecidos, actualmente no existe una regulación federal integral de la industria en los Estados Unidos. Por lo tanto, las empresas que operan aquí han tenido que encargarse en gran medida para introducir medidas de detectabilidad de IA.
Para aquellos que construyen modelos generativos, como Google, esas medidas a menudo han llegado en forma de tecnologías de marcas de agua. Mientras tanto, las plataformas de redes sociales como Tiktok e Instagram han comenzado a requerir etiquetas y otras revelaciones para el contenido generado por IA compartido en sus plataformas.
Obtenga las principales historias de la mañana en su bandeja de entrada cada día con nuestro Boletín de Tech Today.
