Het valt vooralsnog mee met de AI-misinformatie

Menno van den Bos gaat in de NRC in op de huidige stand van zaken rondom misinformatie die door AI wordt gegenereerd. Hij stelt dat volgens misinformatie-experts van een ‘infocalyps’ nog geen sprake is.

A photo of a computer monitor displaying an article with a false headline and misleading information in the text, accompanied by an image supporting the false information. The headline of the article could be something sensational like 'Scientists Discover Earth is Flat', and the accompanying image could show a manipulated view of the Earth to make it appear flat. The text of the article contains clear misinformation and exaggerations to support the sensational headline. On the side of the monitor, there is an image of an AI logo, indicating that the content has been generated by a generative AI application.
DALL-E: A photo of a computer monitor displaying an article with a false headline and misleading information in the text, accompanied by an image supporting the false information.

Menigeen -onder meer de Nederlandse overheid- maakt zich volgens Van den Bos zorgen over de invloed van AI op de verspreiding van nepnieuws en desinformatie, vooral tijden van verkiezingen. Met behulp van generatieve AI-applicaties kun je namelijk heel makkelijk nep nieuws, nep foto’s en nep video’s produceren, om deze daarna via sociale media te delen. De aankondiging van OpenAI’s Sora leidde onlangs weer tot een nieuwe golf van onrust op dit gebied.

Thomas Mulder, onderzoeksjournalist bij Pointer, merkt in het NRC-artikel echter op dat de meeste online misinformatie nog steeds voornamelijk bestaat uit zogenaamde ‘cheapfakes’, eenvoudige manipulaties of uit de context getrokken materiaal. De rol van AI in de verspreiding van misinformatie blijft volgens beperkt, hoewel AI gegenereerd beeldmateriaal, zoals een bewerkte foto van Frans Timmermans, moeilijker te factchecken is. De foto van Timmermans was overigens overduidelijk nep. Hij had bijvoorbeeld zes vingers aan een hand.

Misinformatie-onderzoekers Felix Simon en Sacha Altay concluderen op basis van een eigen analyse dat de angst voor AI-gestuurde misinformatie overdreven is. Hun onderzoek laat zien dat de vraag naar en het aanbod van misinformatie niet significant beïnvloed wordt door AI. Ze benadrukken dat misinformatie voornamelijk consumenten treft met specifieke psychologische kenmerken, zoals sterke politieke overtuigingen en wantrouwen in instituties. Deze kenmerken worden door generatieve AI niet veranderd. Het aanbod van misinformatie is zonder AI groot. Daarbij gaat het bijvoorbeeld om keiharde leugens die door een bepaalde groep worden geloofd, omdat zij vertrouwen hebben in de zender (zoals Donald Trump).

Onderzoeker Hannes Cools voegt in het NRC-artikel toe dat de neiging om valse informatie te geloven meer te maken heeft met de bron en verspreidingscontext dan met de kwaliteit van de technologie. Dit suggereert dat de technologie op zich niet het grootste risico vormt, maar eerder de vooringenomenheid van de gebruikers en de context waarin de informatie wordt verspreid.

Toch schrijft Bos dat het steeds moeilijker wordt om bijvoorbeeld deepfake-audio te onderscheiden van echte opnames. En als het veel makkelijker om dergelijke ‘deepfake’ te maken met behulp van generatieve AI, dan moet je daar wel extra alert op zijn. Vooral journalisten moeten daar kritisch op zijn. De meeste mensen volgen immers nog steeds traditionele media. Daarnaast heb je onafhankelijke factcheckers nodig. Die heb je helaas niet in elk land.

Cools wijst er ook op dat mensen geneigd zijn om heel positief of juist heel negatief over nieuwe technologie te denken. De verhalen over misinformatie als gevolg van AI is een voorbeeld van het laatste. Altay stelt dat we niet alleen naar de werking van de technologie moeten kijken, maar ook naar hoe mensen die technologie gebruiken. Overdreven verhalen kunnen er ook toe leiden dan mensen niets meer geloven van wat zij waarnemen. Ook kunnen andere AI-problemen erdoor worden ondergesneeuwd.

Van den Bos wijst er ook op dat er misinformatie over AI zelf bestaat, met voorbeelden zoals ongegronde claims over ChatGPT en Google’s chatbot Bard. Deze incidenten illustreren hoe misleiding ook kan voorkomen in de berichtgeving over AI.

Mijn opmerkingen

Op dit moment valt het dus nog mee met misinformatie als gevolg van generatieve AI. Het kan best zo zijn dat het makkelijker wordt om misinformatie te maken en te verspreiden, en dat het lastiger wordt om te achterhalen of iets misinformatie is. Het is echter goed om je te realiseren dat misinformatie ook zonder AI op grote schaal wordt gebruikt, en dat bepaalde mensen gevoeliger zijn voor misinformatie dan anderen. Ook blijft factchecken essentieel, met name ook door vertegenwoordigers van traditionele media. Wat mij betreft is deze bijdrage ook een onderbouwing van de noodzaak om te investeren in digitale geletterdheid. Digitale geletterdheid is voorwaardelijk om kritisch om te gaan met (mis)informatie. Of deze nu gegenereerd is door generatieve AI of niet.

Andere bronnen over generatieve AI

    1. Generative AI is transforming business and society
    2. Strategies for an Accelerating Future
    3. AI-zoekmachine OpenAI op basis van Microsoft Bing
    4. Responsible AI Innovation Starts With Ethical Technologists
    5. No Limits When Generative AI Is Accessible To All
    6. Top 5 Fastest Growing Tech Skills To Learn In 2024
    7. The Amazing Ways Walmart Is Using Generative AI
    8. 5 Generative AI Video Tools Everyone Should Know
    9. Digital Transformation 2.0: The Age of AI
    10. AI Landscape Study
    11. Ethical AI: Everything You Need To Know In Simple Words
    12. AI’s Hallucinations Are Out Of Control, What To Do
    13. Google Updates AI Model
    14. Google Prepares for a Future Where Search Isn’t King
    15. Google’s ‘Woke’ Image Generator Shows the Limitations of AI
    16. AI assistant to search and summarize PDFs
    17. 2024: The year of generative AI
    18. OpenAI Introduces Sora: A New Text to Video Model
    19. Google’s ‘Woke’ Image Generator Shows the Limitations of AI
    20. Future of Education and AI: Beyond Traditional Degrees
    21. Will AI revolutionise education?
    22. The AI effect in Higher Education
    23. Technology needs to meet needs of people universities serve
    24. The future is artificial intelligence. Are students ready?
    25. AI holds great promise for improving student outcomes
    26. Artificial Intelligence and the Power of Human Intent
    27. Four steps for integrating generative AI in learning and teaching
    28. Supporting a Campus’s AI Needs
    29. 30+ Ways to Use Google Gemini AI Across the Curriculum
    30. Help Students Overcome AI Hiring Algorithms
    31. Technological Developments Accelerating and Changing Teaching
    32. Can AI think like your students do?
    33. Using Generative AI to Teach Philosophy
    34. The Dangers of Deepfake Technology
    35. GenAI en onveilig gedrag in top securitytrends voor 2024
    36. Enhance Your ADDIE with AI: Eight Prompts to Use Now
    37. The workforce in the world of AI
    38. Generative IA and the Future of Work
    39. Scholieren over de toekomst van artificiële intelligentie en VR in de klas
    40. Infographic: Ranked – The Most Popular AI Tools
    41. AI en kunstmatige intelligentie in darmkanker onderzoek
    42. Werkvorm verhalenexpeditie met of zonder ChatGPT
    43. Can ChatGPT Help Us Respond to Disasters? – Academic Minute
    44. How AI Can Be Used in E-Learning in 2024: Benefits and Best Solutions
    45. AI Tools for Instructional Designers
    46. Using Generative AI to Teach Philosophy: An Interactive Demo You Can Try – Guest Post
    47. Rather Than Deepfakes, Censorship and…
    48. E-Learning Modules for Lecturers and Students on Impact of Generative AI in Higher Education
    49. Google Integrates Gemini AI into Enterprise Tools
    50. Guest Post: There Is More to Reliable Chatbots Than Providing Scientific References – The Case of ScopusAI
    51. 21 Answers
    52. A Few Useful Weekend AI Reads

Mijn bronnen over (generatieve) artificiële intelligentie

Deze pagina bevat al mijn bijdragen over (generatieve) artificiële intelligentie, zoals ChatGPT.

This content is published under the Attribution 3.0 Unported license.

Delen

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

Deze site gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.