Tecnología

Los motores de búsqueda son una de las principales vías de acceso de la sociedad a la información y a las personas, pero también conducen a la desinformación. De manera similar a los algoritmos problemáticos de las redes sociales, los motores de búsqueda aprenden a mostrarle lo que usted y otros han hecho clic antes. Debido a que las personas se sienten atraídas por lo sensacional, esta danza entre algoritmos y la naturaleza humana puede fomentar la difusión de información errónea.

• Leé también: Viajá por el mundo desde tu casa con Google Earth

Las empresas de motores de búsqueda, como la mayoría de los servicios en línea, ganan dinero no solo vendiendo anuncios, sino también rastreando a los usuarios y vendiendo sus datos mediante pujas en tiempo real. Las personas a menudo son conducidas a la desinformación por su deseo de noticias sensacionales y entretenidas, así como por información controvertida o que confirme sus puntos de vista. Un estudio encontró que los videos de YouTube más populares sobre la diabetes tienen menos probabilidades de tener información médicamente válida que los videos menos populares sobre el tema, por ejemplo.

Los motores de búsqueda basados ​​en anuncios, como las plataformas de redes sociales, están diseñados para recompensar el clic en enlaces atractivos porque ayudan a las empresas de búsqueda a mejorar sus métricas comerciales. Como investigador que estudia los sistemas de búsqueda y recomendación, mis colegas y yo demostramos que esta peligrosa combinación de ánimo de lucro empresarial y susceptibilidad individual hace que el problema sea difícil de solucionar.

Cómo salen mal los resultados de la búsqueda

Cuando hace clic en un resultado de búsqueda, el algoritmo de búsqueda aprende que el enlace en el que hizo clic es relevante para su consulta de búsqueda. A esto se le llama retroalimentación de relevancia. Esta retroalimentación ayuda al motor de búsqueda a dar mayor peso a ese enlace para esa consulta en el futuro. Si suficientes personas hacen clic en ese enlace suficientes veces, dando así una fuerte retroalimentación de relevancia, ese sitio web comienza a aparecer más alto en los resultados de búsqueda para eso y consultas relacionadas.

Es más probable que las personas hagan clic en los enlaces que se muestran más arriba en la lista de resultados de búsqueda. Esto crea un ciclo de retroalimentación positiva: cuanto más alto aparece un sitio web, más clics son y eso, a su vez, hace que el sitio web suba o mantenga más alto. Las técnicas de optimización de motores de búsqueda utilizan este conocimiento para aumentar la visibilidad de los sitios web.

Hay dos aspectos de este problema de desinformación: cómo se evalúa un algoritmo de búsqueda y cómo reaccionan los humanos a los titulares, títulos y fragmentos. Los motores de búsqueda, como la mayoría de los servicios en línea, se evalúan utilizando una variedad de métricas, una de las cuales es la participación del usuario. A las empresas de motores de búsqueda les conviene ofrecerle cosas que desee leer, ver o simplemente hacer clic. Por lo tanto, como un motor de búsqueda o cualquier sistema de recomendación crea una lista de elementos para presentar, calcula la probabilidad de que haga clic en los elementos.

Tradicionalmente, esto estaba destinado a mostrar la información que sería más relevante. Sin embargo, la noción de relevancia se ha vuelto confusa porque las personas han estado utilizando la búsqueda para encontrar resultados de búsqueda entretenidos, así como información verdaderamente relevante.

Imagina que estás buscando un afinador de pianos. Si alguien te muestra un video de un gato tocando el piano, ¿harías clic en él? Muchos lo harían, incluso si eso no tiene nada que ver con la afinación del piano. El servicio de búsqueda se siente validado con comentarios de relevancia positiva y aprende que está bien mostrar un gato tocando un piano cuando la gente busca afinadores de piano.

De hecho, es incluso mejor que mostrar los resultados relevantes en muchos casos. A la gente le gusta ver videos divertidos de gatos y el sistema de búsqueda obtiene más clics y más participación de los usuarios.

Esto puede parecer inofensivo. Entonces, ¿qué pasa si las personas se distraen de vez en cuando y hacen clic en resultados que no son relevantes para la consulta de búsqueda? El problema es que la gente se siente atraída por imágenes emocionantes y titulares sensacionales. Ellos tienden a hacer clic en las teorías de la conspiración y las noticias sensacionalistas, no sólo los gatos que juegan el piano y lo hacen más que hacer clic en noticias reales o información relevante.

Arañas famosas pero falsas

En 2018, las búsquedas de «nueva araña mortal» aumentaron en Google tras una publicación de Facebook que afirmaba que una nueva araña mortal mató a varias personas en varios estados. Mis colegas y yo analizamos los 100 resultados principales de la búsqueda en Google de «nueva araña mortal» durante la primera semana de esta consulta de tendencia.

Resultó que esta historia era falsa, pero las personas que la buscaban estaban expuestas en gran medida a información errónea relacionada con la publicación falsa original. A medida que la gente continuaba haciendo clic y compartiendo esa información errónea, Google continuó mostrando esas páginas en la parte superior de los resultados de búsqueda.

Este patrón de historias emocionantes y no verificadas que surgen y las personas hacen clic en ellas continúa. Y la gente aparentemente no está preocupada por la verdad o cree que si un servicio confiable, como la búsqueda de Google, les muestra estas historias, entonces las historias deben ser verdaderas. Más recientemente, un informe refutado que afirmaba que China permitió la filtración de coronavirus de un laboratorio, ganó fuerza en los motores de búsqueda debido a este círculo vicioso.

Detecta la desinformación

Para probar qué tan bien las personas discriminan entre información precisa e información errónea, diseñamos un juego simple llamado «Google o no«. Este juego en línea muestra dos conjuntos de resultados para la misma consulta. El objetivo es simple: elija el conjunto que sea confiable, digno de confianza o más relevante.

Uno de estos dos conjuntos tiene uno o dos resultados que se verifican y etiquetan como información errónea o una historia desacreditada. Pusimos el juego a disposición del público y lo anunciamos a través de varios canales de redes sociales. En general, recopilamos 2100 respuestas de más de 30 países.

• Leé también: Los mayores de 50 (y no los jóvenes) son quienes más noticias falsas comparten

Cuando analizamos los resultados, encontramos que aproximadamente la mitad de las veces las personas eligieron por error como confiables el conjunto con uno o dos resultados de información errónea. Nuestros experimentos con cientos de otros usuarios durante muchas interacciones han dado como resultado hallazgos similares. En otras palabras, aproximadamente la mitad de las veces la gente elige resultados que contienen teorías de conspiración y noticias falsas. Y a medida que más personas eligen estos resultados inexactos y engañosos, los motores de búsqueda aprenden que eso es lo que la gente quiere.

Dejando a un lado las cuestiones de la regulación y autorregulación de las grandes tecnologías, es importante que las personas comprendan cómo funcionan estos sistemas y cómo generan dinero. De lo contrario, las economías de mercado y la inclinación natural de las personas a sentirse atraídas por vínculos llamativos mantendrán el círculo vicioso.

*Este artículo fue republicado de The Conversation bajo licencia Creative Commons. Lea el artículo original. Chirag Shah Profesor asociado de ciencia de la información, Universidad de Washington