00:00¿Cuándo murió Trump de rabia?
00:02Si hace poco hubieras escrito esta pregunta en la búsqueda con IA de DuckDuckGo,
00:07el sistema te habría dado una fecha concreta con total seguridad.
00:11Claro está, la afirmación es totalmente falsa.
00:14Pero aquí está el problema.
00:15Los resúmenes generados por IA pueden manipularse con relativa facilidad.
00:20En este caso, varios usuarios de Reddit coordinaron una broma inventándose esta historia
00:25y redactaron publicaciones en un tono serio y aparentemente creíble.
00:30La IA las recopiló y las repitió como si fueran hechos reales.
00:34¿Por qué?
00:34Porque para muchos modelos de lenguaje, un comentario cualquiera en Reddit,
00:38si suena convincente, puede tener un peso similar al de una fuente oficial.
00:43De hecho, un estudio reciente muestra que los llamados agentes de investigación profunda
00:47basan aproximadamente la mitad de sus respuestas en plataformas de contenido generado por los usuarios
00:53como Reddit o Wikipedia.
00:55Y esto tiene consecuencias reales para ti.
00:58¿Buscas un restaurante?
01:00Los investigadores demostraron que bastaba con insertar un pequeño fragmento de texto
01:05de apenas 13 palabras en un foro indexado para engañar a la IA
01:09y conseguir que recomendara un local concreto como una de las mejores opciones.
01:13Y no se trata solo de restaurantes.
01:16Las marcas ya están intentando aprovechar este sistema,
01:19inundando foros y secciones de comentarios con contenido diseñado
01:23para ser recogido por los rastreadores de IA.
01:26A esta práctica le llaman optimización para motores de respuesta.
01:30Los investigadores, sin embargo, la describen de otra manera,
01:33contenido contaminado,
01:34porque en ocasiones un solo comentario puede influir en resultados de búsqueda completos.
01:40Por eso, la próxima vez que leas un resumen generado por IA,
01:43comprueba la fuente,
01:44porque podría no ser más que un rumor de internet disfrazado de información fiable.
Comentarios