Deze academici staan ​​in de frontlinie van onderzoek naar nepnieuws

Dit is het tweede artikel in een driedelige serie over de mensen achter het fenomeen desinformatie. Deel één bevatte studenten die werkten aan projecten op het gebied van verkeerde informatie en deel drie bevat beruchte nepnieuwsschrijvers.

LYON, Frankrijk - Amy Zhang was duizenden kilometers verwijderd toen haar werk werd gepresenteerd op The Web Conference. Ze is een computerwetenschappelijk onderzoeker aan het Massachusetts Institute of Technology, maar ze heeft nog steeds geen manier gevonden om op twee plaatsen tegelijk te zijn.

'Ik hoorde dat het heel goed ging', vertelde ze aan Poynter. “De twee projecten staan ​​niet helemaal los van elkaar. Het is alleen jammer dat ze op dezelfde dag waren.'

Terwijl co-auteur An Xiao Mina, productdirecteur bij het non-profit technologiebedrijf Meedan, eind april in Lyon presenteerde, Zhang — een voormalig software-ingenieur — hielp een masterstudent bij het presenteren van een project over online intimidatie op een andere conferentie in Montreal. hun papier kijkt naar de verschillende manieren waarop online nieuwsartikelen de lezers geloofwaardig maken.

Tijdens The Web Conference zei Mina dat ze ontdekten dat zaken als agressieve advertentieplaatsing de geloofwaardigheid van deelnemers verminderde, terwijl het aantal advertenties dat niet deed. Tegelijkertijd hadden clickbait-titels en een emotioneel geladen toon een negatieve invloed op de geloofwaardigheid van artikelen.

Bekijk dit interessante artikel van *10 auteurs* over welke signalen nieuwsartikelen geloofwaardig maken, dat werd gepubliceerd in samenwerking met @snopes , @AP en anderen. #TheWebConf https://t.co/1rD07WhkBe

— Daniel Funke (@dpfunke) 25 april 2018

Die bevindingen komen op een moment dat half handenwringen over hoe nieuwsconsumenten worden bespeeld door online desinformatie.

Zhang en Mina schreven hun paper samen met 12 andere onderzoekers, technologen en factcheckers die deel uitmaken van de Geloofwaardigheid Coalitie , een gezamenlijke inspanning opgericht door Meedan en Hackers/Hackers oplossingen te bedenken voor het afnemende vertrouwen in nieuws. Lidorganisaties zijn onder meer Snopes, de Associated Press en Climate Feedback.

Die samenwerking — in combinatie met het feit dat dit het eerste jaar was dat de 24-jarige Web Conference had een nummer gewijd aan feitencontrole en desinformatie - spreekt boekdelen over de vraag naar onderzoek naar desinformatie te midden van een groeiende belangstelling voor nepnieuws in de afgelopen jaren. Zhang zei dat uitbreiding haar interesse wekte in het onderzoeken van het fenomeen, wat ze heeft gedaan sinds ze in 2014 aan het doctoraatsprogramma van MIT begon.

'Ik ben een computerwetenschapper', zei ze. “Het was een beetje natuurlijk dat er verkeerde informatie op mijn radar verscheen. De focus van mijn werk ligt meer op het bouwen van tools - wat voor soort tools kunnen we alledaagse gebruikers bieden om hun informatie en de inhoud die ze zien beter te beheren.'

Het afgelopen jaar is de belangstelling voor onderzoek naar desinformatie explosief gestegen. Nepnieuwsstudies regelmatig aantrekken spraakmakende - zij het vaak gebrekkige - berichtgeving. verschillende organisaties zijn catalogiseren het laatste onderzoek, waaronder het International Fact-Checking Network.

Maar onderzoek naar desinformatie is niet beperkt tot laboratoria, klaslokalen en online portals - technologiebedrijven maken steeds vaker gebruik van dat werk om te informeren hoe ze nepnieuws op hun platforms aanpakken.

Op woensdag kondigde Google zijn betrokkenheid bij Datacommons.org , een nieuw project gericht op het delen van platformdata met onderzoekers en journalisten. Facebook bekend gemaakt een soortgelijk programma vorige maand om onderzoekers te helpen de impact van sociale media op verkiezingen te meten.

'Ik denk dat papers op zich niet zo nuttig zijn, behalve voor andere academici,' zei Zhang. 'Onderzoekers kunnen veel bieden op het gebied van beleidsaanbevelingen en mogelijk overheden en technologiebedrijven helpen het probleem beter te begrijpen.'

Van professoren tot doctoraatsonderzoekers, hier zijn enkele van de mensen die werken om ons collectieve begrip van verkeerde informatie te vergroten. Ken je iemand waarvan je denkt dat we die moeten kennen? E-mail ons op e-mail .

Leticia Bode, Universiteit van Georgetown

Een paar jaar geleden, toen het onderzoek van Leticia Bode zich vooral richtte op politieke informatie op sociale media, ging de belangrijkste vraag die mensen haar stelden altijd over nepdingen.

'Blootstelling aan politieke informatie kan nuttig zijn om de opkomst of andere vormen van deelname te motiveren, maar als het verkeerde informatie geeft, is dat dan een waardige afweging?' vertelde ze Poynter in een e-mail. 'Ik dacht dat ik desinformatie op sociale media moest gaan onderzoeken om die vraag te beantwoorden, maar toen raakte ik meer geïntrigeerd door meer specifiek de correctie van desinformatie.'

Dus toen ze desinformatie begon te onderzoeken, leek het een natuurlijke uitbreiding van haar werk als assistent-professor in het programma Communicatie, Cultuur en Technologie aan de Georgetown University. Nu is ze de auteur van verschillende onderzoeken over het fenomeen, met name over het effect van correcties op sociale media.

Een van haar onderzoeken werd zelfs door Facebook gebruikt om zijn inspanningen tegen desinformatie verder te ontwikkelen.

'Academisch onderzoek wordt niet altijd onmiddellijk of effectief gebruikt door degenen die het zou kunnen helpen, dus dat was een zeer trotse prestatie voor ons,' zei ze.

die studie , getiteld 'In Related News, That Was Wrong: The Correction of Misinformation Through Related Stories Functionality in Social Media' en co-auteur van Emily K. Vraga, werd gegeven als basis voor een verandering in december in de manier waarop Facebook omgaat met nepnieuws. In plaats van verhalen die door factcheckers zijn ontkracht als onwaar te bestempelen, voegt het platform nu gerelateerde factchecks toe.

Het was een goed voorbeeld van hoe desinformatie-onderzoek real-life beleidsimplicaties heeft, zei Bode. In de toekomst zou ze graag zien dat er meer onderzoek wordt gedaan naar welke soorten mensen het meest vatbaar zijn voor verkeerde informatie, en welke soorten berichten het meest effectief zijn om hun mening te veranderen.

'Onderzoek kan ons helpen de mechanismen achter patronen die we zien te begrijpen, en het begrijpen van die mechanismen is essentieel om gedrag of resultaten te kunnen veranderen,' zei ze. “Meer informatie is altijd goed!”

Matthias Nießner, Technische Universiteit van München

Matthias Nießner was verrast door de reactie op zijn paper.

'Het werd algemeen gezien als een bedreigende manier om nepnieuws te verspreiden', vertelde hij aan Poynter. 'Het was eigenlijk heel verrassend voor ons, omdat de filmindustrie dit al jaren doet - het enige verschil is dat het een beetje eenvoudiger is geworden.'

Het 2016-project , genaamd 'Face2Face', presenteert een benadering om YouTube-video's in realtime na te spelen met behulp van machine learning en gezichtsherkenningstechnologie. Simpel gezegd: hiermee kunnen mensen met een webcam een ​​YouTube-video van iemand die aan het woord is, wijzigen zodat het lijkt alsof ze iets anders zeggen.

Dat plaatst het in de emmer van 'deepfake' videotechnologie, of het gebruik van kunstmatige intelligentie om een ​​video substantieel te wijzigen. Dat fenomeen is het onderwerp geweest van veel naar dag des oordeels verhaal de afgelopen maanden, maar Nießner, een professor in het Visual Computing Lab aan de Technische Universiteit van München, zei dat de technologie niet alleen niet nieuw is, maar nog rudimentair.

'Dat zal nog een tijdje zo blijven', zegt Nießner, die begon met het onderzoeken van graphics. 'Er is veel interesse vanuit een onderzoeksperspectief (in) hoe ver je manipulatie kunt duwen, maar praktisch gesproken zal het een tijdje duren voordat je echt kogelvrije vervalsingen hebt.'

'Voor iemand die niet weet hoe deze technologie werkt, is het erg moeilijk.'

Toch blijft het online detecteren van deepfake-video's een uitdaging voor factcheckers. Met dat in gedachten werkt het team van Nießner aan methoden zoals: GezichtForensisch , een systeem dat uit een dataset van ongeveer een half miljoen bewerkte afbeeldingen van meer dan 1.000 video's haalt om patronen in gemanipuleerde video's te detecteren.

Naast het ontwikkelen van manieren om deepfakes online uit te bannen, zei Nießner dat hij hoopt dat het werk van zijn team een ​​open dialoog op gang zal brengen met technologiebedrijven en nieuwsconsumenten over mediageletterdheid.

'Een van de redenen waarom we al deze dingen hebben gedaan, is dat we echt het bewustzijn wilden vergroten', zei hij. “Uiteindelijk moeten we mensen zo opleiden dat ze begrijpen wat er mogelijk is. De open onderzoeksgemeenschap moet dat doen.”

Brendan Nyhan, Dartmouth College

Als je een onderzoek over nepnieuws hebt gelezen, heb je waarschijnlijk Brendan Nyhan gelezen.

De professor aan het Dartmouth College en af ​​en toe een bijdrage aan de New York Times is productief, omdat hij heeft geschreven: meerdere op grote schaal geciteerd onderzoek naar desinformatie. Hoewel de bevindingen sindsdien zijn betwist, waaronder door Nyhan zelf , heeft zijn onderzoek naar het zogenaamde 'backfire-effect' - dat stelde dat mensen eerder verkeerde informatie geloven die hun mening bevestigt wanneer ze worden gepresenteerd met een overeenkomstige correctie - vaak geweest de basis voor spraakmakende verhalen over feitencontrole.

Maar zijn werk kreeg niet altijd zoveel aandacht.

'Toen Jason (Reifler) en ik onderzoek op dit gebied begonnen te doen, was verkeerde informatie niet echt een onderwerp', vertelde hij aan Poynter. “Als je nieuw onderzoek probeert te doen, kan het een uitdaging zijn om te publiceren, omdat er geen reeks standaarden is ontstaan ​​over hoe onderzoeksvragen moeten worden benaderd of hoe belangrijke termen moeten worden gedefinieerd. Zonder dat gedeelde kader is het moeilijk om vooruitgang te boeken.”

Na zijn afstuderen aan de universiteit in 2000, begon Nyhan de blog Spinsaniteit – een reactie op wat hij zag als een gebrek aan feitelijk debat tijdens de Amerikaanse presidentsverkiezingen van 2000. Deze syndicatie die de voorloper van feiten controleert, handelt af met uitgevers als Salon en The Philadelphia Enquirer voordat ze in 2005 stopte toen Nyhan begon met afstuderen.

Hij schreef zijn proefschrift over politiek schandaal, dat tijdens zijn jeugd het presidentschap van Bill Clinton ontsierde. Maar na zijn afstuderen neigde zijn werk meer en meer naar verkeerde informatie.

'Ik denk dat ik het meest trots ben op de manier waarop ik heb geholpen om onderzoek naar desinformatie in de sociale wetenschappen vooruit te helpen en een groter publiek te bereiken', zei hij. 'Wetenschappers hebben te lang feitelijke overtuigingen verwaarloosd en de publieke opinie en politieke psychologie bestudeerd ... het is belangrijk voor ons om een ​​inhaalslag te maken, en ik hoop dat we dat hebben gedaan.'

Dus welke vragen houden Nyhan 's nachts nog wakker?

'We hebben het meeste te leren over de rol van elites bij het creëren en promoten van misvattingen en verkeerde informatie', zei hij. 'Ik denk niet dat we de strategie van desinformatie heel goed begrijpen of hoe overtuigingen kunnen bijdragen aan het polariseren van feitelijke overtuigingen.'

David Rand, Yale University

David Rand hield niet van verkeerde informatie voordat het cool was.

'Zoals veel mensen waren het de verkiezingen van 2016 die deze kwesties voor mij als een opwindend en belangrijk studiegebied onder de aandacht brachten', vertelde hij Poynter in een e-mail.

Maar sindsdien is de universitair hoofddocent psychologie aan de Yale University een krachtpatser geweest, die onderzoek doet dat relevant is voor de voortdurende strijd van technische platforms tegen verkeerde informatie. Zijn werk was kritisch over Facebook, inbegrepen studies die haar inspanningen op het gebied van feitencontrole in twijfel trekken en oproepen tot een meer open uitwisseling van gegevens.

Voor Rand ligt het belang van onderzoek in het vermogen om brede beleidslijnen te beïnvloeden.

'Ten eerste is basiswetenschap die licht werpt op welke factoren van invloed zijn op het geloof van mensen in, en de wens om verschillende verhalen te delen, echt belangrijk als het gaat om het begeleiden van de ontwikkeling van effectieve interventies,' zei hij. 'En ten tweede kunnen academische onderzoekers eerste-ronde evaluaties van mogelijke interventies doen om te helpen bij het aanscherpen van wat het meest veelbelovend lijkt.'

In een groot onderzoek uit september ontdekten Rand en zijn onderzoekspartner Gordon Pennycook, een postdoctoraal onderzoeker aan Yale, dat het taggen van nepnieuwsverhalen op sociale platforms zoals Facebook hun geloofwaardigheid vermindert en niet-gecodeerde valse verhalen geloofwaardiger maakt. Het werk wierp licht op een programma dat de meest zichtbare inspanning van het technologiebedrijf is geworden om nepnieuws aan te pakken, en Facebook later verlaten de praktijk om eenvoudig gerelateerde feitencontroles toe te voegen.

'Ik heb me bijzonder goed gevoeld over ons vermogen om studies uit te voeren ter evaluatie van interventies die momenteel in gebruik zijn ... en om onze resultaten vervolgens snel in de publieke sfeer te krijgen als werkdocumenten om het publieke debat en de beleidsvorming te helpen informeren,' zei hij.

Toch zei Rand dat wat onderzoekers nog steeds niet weten over desinformatie, in veel opzichten de meest fundamentele vragen zijn: welke impact heeft blootstelling aan verkeerde informatie op de houding van mensen ten opzichte van politiek en vertrouwen in de media?

'En hoe verschilt dit tussen verschillende soorten verkeerde informatie?' hij zei. 'Ten tweede, wat zijn effectieve interventies om het geloof in verkeerde informatie te verminderen en - waarschijnlijk nog belangrijker - het delen van verkeerde informatie te verminderen?'

Briony Swire-Thompson, Northeastern University

Het onderzoek van Briony Swire-Thompson kan in twee emmers worden verdeeld.

'Waarom mensen correcties vergeten, maar ook de ideologische overtuigingen van mensen en waarom dat mensen misschien tegenhoudt', vertelde ze aan Poynter.

Ironisch genoeg weet ze nog steeds niet waar die twee concepten samenkomen. En daar wil ze graag meer over leren.

Nu een postdoctoraal onderzoeker aan het Network Science Institute van de Northeastern University, heeft Swire-Thompson voor het Massachusetts Institute of Technology onderzoek gedaan naar de manier waarop feitencontrole de gedachten van mensen over bepaalde kwesties verandert, maar niet hun stemmen. Ze heeft ook onderzocht hoe iemands bekendheid met verkeerde informatie hun ontvankelijkheid voor correcties beïnvloedt.

Op die manier heeft ze geluk.

'Ik denk dat veel mensen in cognitie- en geheugenstudies zich beperken tot theoretische gronden, maar verkeerde informatie is volgens mij net zo toepasselijk,' zei ze.

Swire-Thompson raakte voor het eerst geïnteresseerd in verkeerde informatie in 2009, toen haar honours-promotores aan de University of Western Australia (UWA), Ullrich K.H. Ecker en Stephan Lewandowski , begon het fenomeen te onderzoeken. Ze vond het meteen geweldig, maar nam een ​​pauze van twee jaar in Ecuador voordat ze aan haar doctoraat begon, omdat ze wist dat ze daarna zou moeten gaan werken.

'Het heeft me zeker geholpen om er zeker van te zijn dat onderzoek naar verkeerde informatie echt belangrijk was,' zei ze, 'ik zou zien en zien hoe moeilijk het is om dingen te corrigeren, zoals geestelijke gezondheidsproblemen die besmettelijk zijn. Ik heb daar in een ziekenhuis gewerkt en ik denk dat het niet uitmaakt waar je heen gaat - als je je interesse in verkeerde informatie al hebt gewekt - je ziet het overal een beetje.'

Dus toen ze terugkwam in de academische wereld, ging ze verder waar ze was gebleven.

Tijdens het schrijven van haar Ph.D. proefschrift aan de UWA, zei ze dat mensen in de war waren over de reden waarom ze onderzoek deed naar verandering van geloof in de loop van de tijd voor een psychologische wetenschappelijke graad. Maar tegen de tijd dat ze het indiende, begrepen ze waarom het onderwerp - en wat onderzoekers er niet van weten - belangrijk was.

'In de loop van de tijd is de toepassing (van desinformatie-onderzoek) steeds duidelijker geworden', zei ze. 'Dit is zo'n nieuw onderzoeksgebied en we hebben nog steeds geen goede greep op onderliggende mechanismen.'