Stel je voor als data rond gezichtsherkenning in verkeerde handen vallen?

Clearview AI is een Amerikaans technologiebedrijf dat software voor gezichtsherkenningssoftware levert. Hun klanten zijn zo’n 600 instanties die belast zijn met handhaving van de wet. Het bedrijf heeft technologie ontwikkeld waarmee gezichten gekoppeld kunnen worden aan een database met meer dan drie miljard beelden. De BBC meldt dat het bedrijf is gehackt. Hoe schadelijk kan dit zijn?

Clearview AI betoogt dat men vooral het opsporen van criminelen, zoals verkrachters, wil vergemakkelijken. Zij hebben software ontwikkeld die gezichten van verdachten kunnen herkennen in een database met miljarden beelden. Hoe komen zij aan die beelden? Dankzij jou en mij.

Clearview AI gebruikt namelijk ‘scraping‘ technologie waarmee men foto’s die geplaatst zijn op sociale media en websites verzameld en opslaat. Bedrijven als Twitter en Facebook hebben het bedrijf al gesommeerd om de verzamelde foto’s te verwijderen. De foto’s blijven in de database, zelfs als gebruikers deze online verwijderd hebben.

Onlangs is het bedrijf dus gehackt. Daarbij hebben hackers schijnbaar geen toegang gekregen tot de database met foto’s, maar wel tot de lijst van klanten van Clearview AI. De schade valt dus mee, als dit klopt.

Toch toont dit incident aan hoe risicovol een bedrijf als Clearview AI bezig is:

  • Door data van gezichtsherkenning te combineren met data uit andere bronnen, ben je bezig met het ontwikkelen van profielen (‘profiling’). Dat was echter nooit de bedoeling van degenen die de foto’s hebben gemaakt en die actief zijn op sociale media. Clearview AI gebruikt de foto’s dus voor een ander doel en binnen een andere context dan gebruikers voor ogen hadden toen zij de foto’s publiceerden. Zij doen dit ook zonder toestemming.
  • Door foto’s in een andere context te gebruiken kunnen misverstanden en zelfs ‘Kafkaeske’ situaties ontstaan. Vooral ook omdat foto’s gemakkelijk gemanipuleerd kunnen worden en weer gepubliceerd, en dus opnieuw beschikbaar komen voor bedrijven als Clearview AI.
  • Clearview AI heeft nu alleen ‘law enforcement agencies‘ als klant. Maar wie garandeert me dat deze scope niet verandert? Of dat deze instanties zich op een gegeven moment niet bezig gaan houden met het registreren van politieke tegenstanders van het zittende bewind?
  • Stel je voor dat de database en technologie dankzij een hack in handen vallen van niet-democratische landen? Hoe gemakkelijk is het dan voor hen om opponenten van het regime op te sporen?
  • Zijn de werkzaamheden van een bedrijf als Clearview AI transparant en controleerbaar? Wie ziet erop toe dat het bedrijf zich aan de wet houdt?

This content is published under the Attribution 3.0 Unported license.

Wilfred Rubens (1964) currently works as an independent consultant, project leader, blogger and teacher in the field of technology enhanced learning. He leads innovative projects, he provides advice, keynotes, presentations, workshops and classes about technology enhanced learning. Wilfred has been professionally involved in e-learning for more than 20 years. For more than 15 years he blogs about ICT and learning. He is (co-)author of a book about elearning trends and developments (in Dutch), and a book about social learning. Wilfred is also one of the editors of the Dutch portal e-learning.nl, member of the advisory board of the anual Dutch Next Learning conference and member of the advisory board of the ONLINE EDUCA BERLIN. wilfred@wilfredrubens.com http://www.wilfredrubens.com

Tags: , , ,
Top

%d bloggers liken dit: