La IA de Google está mezclando especies de setas para responder a búsquedas de los usuarios. Eso es peligroso
Publicado el 24/12/2024 por Diario Tecnología Artículo original
Durante el verano de 2023 algo le pasó a 'La joven de la perla'. Al menos, en Google. Si alguien buscaba esa imagen en ese buscador, obtenía como resultado destacado una imagen que estaba generada por IA. El error, notorio y notable, parece haber sido subsanado.
Pero hay al menos otro quizás más preocupante. Lo descubrió el moderador del subreddit r/mycology, que detectó que al realizar una búsqueda de una especie de seta —en concreto, la 'coprinus comatus', en España también conocida como "barbuda" o "seta de tinta"— aparecía en primer término no la foto real de esta seta, sino una imagen generada por IA. Y una que no tenía mucho que ver, de hecho.
En Xataka acabamos de hacer la prueba y efectivamente la imagen destacada es una imagen generada por IA en los resultados de búsqueda. El moderador, con el alias de MycoMutant, detectó que la imagen ni siquiera había sido generada por Google: el motor de búsqueda simplemente la había mostrado recolectando la imagen de Freepik, donde la imagen está identificada claramente como generada por IA.
MycoMutant indicó en 404Media cómo llevaba tiempo viendo como en ciertas especies de setas había pasado lo mismo. Él ayuda a otros usuarios a identificar setas de forma correcta y así evitar información peligrosa sobre cuáles especies se pueden consumir y cuáles no.
El problema, como comentaba este usuario, es que cuando Google utiliza esas imágenes incorrectas en las búsquedas, la "reputación" de esas imágenes sube: otros bots pueden "fiarse" de Google y acabar difundiendo esas imágenes con información que puede ser peligrosa.
Indicaba además que: "en más de una ocasión he visto a gente intentar utilizar bots para recopilar datos de una base de datos de especies de setas y los resultados han sido terriblemente inexactos y potencialmente llenos de información peligrosamente errónea".
Otros expertos indicaban en ese artículo cómo efectivamente las imágenes generadas por IA, aunque pueden acercarse al aspecto real, pueden acabar teniendo consecuencias terribles. Para Elan Trybuuch, secretario de la Sociedad Micológica de Nueva York, Google no solo debería marcar esas imágenes como generadas por IA: debería borrarlas por completo.
Este es un nuevo ejemplo de cómo este tipo de errores en textos e imágenes —y en el futuro, vídeos— generados por IA pueden tener consecuencias perjudiciales para los usuarios. La velocidad con la que internet se está llenando de contenidos generados por IA no hace fácil afrontar este problema.
Es cierto, eso sí, que al menos en el caso de los chatbots de texto las cosas están mejorando, tanto por las versiones más recientes, que cometen menos errores, como por los modelos que son capaces de "razonar" como o1 o el reciente Gemini 2.0 Flash Thinking, que también revisan sus respuestas antes de presentarlas al usuario.
Imagen | Wikipedia | Google
24_Dec_2024"> Javier Pastor .