Bilde via Crispin the Brave / Moment via Getty Images
Søkemotorer er en av samfunnets viktigste portaler til informasjon og mennesker, men de er også kanaler for feilinformasjon.
Denne artikkelen om feilinformasjon er publisert her med tillatelse fra Samtalen . Dette innholdet deles her fordi emnet kan interessere Snopes-lesere. Det representerer imidlertid ikke arbeidet til Snopes faktakontrollører eller redaktører.
Søkemotorer er en av samfunnets viktigste portaler til informasjon og mennesker, men de er også kanaler for feilinformasjon. Lik problematiske algoritmer for sosiale medier , søkemotorer lærer å tjene deg det du og andre har klikket på før. Fordi folk blir tiltrukket av det oppsiktsvekkende, kan denne dansen mellom algoritmer og menneskelig natur fremme spredning av feilinformasjon.
Søkemotorselskaper, som de fleste online-tjenester, tjener ikke bare penger ved å selge annonser, men også ved å spore brukere og selge dataene deres gjennom budgivning i sanntid på den. Folk blir ofte ført til feilinformasjon av deres ønske om oppsiktsvekkende og underholdende nyheter, samt informasjon som enten er kontroversiell eller bekrefter deres synspunkter. En studie fant at mer populære YouTube-videoer om diabetes er mindre sannsynlig å ha medisinsk gyldig informasjon enn mindre populære videoer om emnet, for eksempel.
Annonsedrevne søkemotorer, som sosiale medieplattformer, er designet for å belønne å klikke på lokkende lenker fordi det hjelper søkeselskapene å øke forretningsverdiene. Som forsker som studerer søke- og anbefalingssystemene , Jeg og mine kolleger viser at denne farlige kombinasjonen av bedriftsoverskuddsmotiv og individuell mottakelighet gjør problemet vanskelig å fikse .
Hvordan søkeresultatene går galt
Når du klikker på et søkeresultat, lærer søkealgoritmen at lenken du klikket på er relevant for søket ditt. Dette kalles relevans tilbakemelding . Denne tilbakemeldingen hjelper søkemotoren med å legge vekt på den lenken for spørringen i fremtiden. Hvis nok folk klikker på den lenken nok ganger, og dermed gir sterk relevans tilbakemelding, begynner det nettstedet å komme høyere opp i søkeresultatene for det og relaterte spørsmål.
Folk er mer sannsynlig å klikke på lenker som vises høyere på søkeresultatlisten. Dette skaper en positiv tilbakemeldingssløyfe - jo høyere et nettsted dukker opp, jo mer klikk, og som igjen gjør at nettstedet beveger seg høyere eller holder det høyere. Optimaliseringsteknikker for søkemotorer bruker denne kunnskapen for å øke synligheten til nettsteder.
Det er to aspekter ved dette feilinformasjonsproblemet: hvordan en søkealgoritme blir evaluert og hvordan mennesker reagerer på overskrifter, titler og utdrag. Søkemotorer, som de fleste online-tjenester, blir vurdert ved hjelp av en rekke beregninger, hvorav den ene er brukerengasjement. Det er i søkemotorenes interesse å gi deg ting du vil lese, se eller bare klikke. Derfor, når en søkemotor eller et hvilket som helst anbefalingssystem oppretter en liste over elementer som skal presenteres, beregner det sannsynligheten for at du klikker på elementene.
Tradisjonelt var dette ment for å få frem informasjonen som ville være mest relevant. Imidlertid har ideen om relevans blitt uklar fordi folk har brukt søk for å finne underholdende søkeresultater samt virkelig relevant informasjon .
Tenk deg at du leter etter en pianostemmer. Hvis noen viser deg en video av en katt som spiller piano, vil du klikke på den? Mange ville, selv om det ikke har noe å gjøre med pianotuning. Søketjenesten føles validert med positiv tilbakemelding om relevans og lærer at det er OK å vise en katt som spiller piano når folk søker etter pianostemmere.
Det er faktisk enda bedre enn å vise relevante resultater i mange tilfeller. Folk liker å se morsomme kattevideoer, og søkesystemet får flere klikk og brukerengasjement.
Dette kan virke ufarlig. Så hva om folk blir distrahert fra tid til annen og klikker på resultater som ikke er relevante for søket? Problemet er at folk blir tiltrukket av spennende bilder og oppsiktsvekkende overskrifter. De har en tendens til å klikke på konspirasjonsteorier og sensasjonelle nyheter , ikke bare katter som spiller piano, og gjør det mer enn å klikke på virkelige nyheter eller relevant informasjon.
Berømte men falske edderkopper
I 2018 søker etter 'ny dødelig edderkopp' spiket på Google etter et Facebook-innlegg som hevdet at en ny dødelig edderkopp drepte flere mennesker i flere stater. Mine kolleger og jeg analyserte de 100 beste resultatene fra Google-søk etter 'ny dødelig edderkopp' i løpet av den første uken i dette populære spørringen.
De to første sidene av Googles søkeresultater for ‘ny dødelig edderkopp’ i august 2018 (skyggelagt område) var relatert til det opprinnelige falske nyhetsinnlegget om dette emnet, ikke debunking eller på annen måte faktainformasjon.
Chirag Shah, CC BY-ND
Det viste seg denne historienvar falsk, men folk som lette etter det, ble i stor grad utsatt for feilinformasjon knyttet til det opprinnelige falske innlegget. Da folk fortsatte å klikke og dele feilinformasjonen, fortsatte Google å tjene disse sidene øverst i søkeresultatene.
Dette mønsteret av spennende og ubekreftede historier dukker opp og folk som klikker på dem, fortsetter, med folk som tilsynelatende enten ikke er bekymret for sannheten eller tror at hvis en pålitelig tjeneste som Google Søk viser disse historiene til dem, så må historiene være sanne. Mer nylig, a motbevist rapport hevder Kina la coronavirus lekke fra et laboratorium fikk grep på søkemotorer på grunn av denne onde syklusen.
Se feilinformasjonen
For å teste hvor godt folk skiller mellom nøyaktig informasjon og feilinformasjon, designet vi et enkelt spill kalt “ Google eller ikke . ” Dette online spillet viser to sett med resultater for samme spørsmål. Målet er enkelt - velg settet som er pålitelig, pålitelig eller mest relevant.
I tester, omtrent halvparten av tiden, kan ikke folk se forskjellen mellom Googles søkeresultater som inneholder feilinformasjon og de med bare pålitelige resultater.
Chirag Shah, CC BY-ND
Ett av disse to settene har ett eller to resultater som enten er bekreftet og merket som feilinformasjon eller en debunked historie. Vi gjorde spillet tilgjengelig offentlig og annonserte gjennom forskjellige sosiale mediekanaler. Samlet sett samlet vi 2100 svar fra over 30 land.
Da vi analyserte resultatene, fant vi det omtrent halvparten av tiden folk feilaktig valgte det pålitelige settet med en eller to feilinformasjonsresultater . Våre eksperimenter med hundrevis av andre brukere over mange iterasjoner har resultert i lignende funn. Med andre ord, omtrent halvparten av tiden folk velger resultater som inneholder konspirasjonsteorier og falske nyheter. Etter hvert som flere velger disse unøyaktige og villedende resultatene, lærer søkemotorene at det er det folk vil ha.
Spørsmål om Big Tech-regulering og selvregulering til side, det er viktig for folk å forstå hvordan disse systemene fungerer og hvordan de tjener penger. Ellers vil markedsøkonomier og folks naturlige tilbøyelighet til å bli tiltrukket av iøynefallende lenker holde den onde syklusen i gang.
Chirag Shah , Førsteamanuensis i informasjonsvitenskap, University of Washington
Denne artikkelen er publisert på nytt fra Samtalen under en Creative Commons-lisens. Les original artikkel .
