De gevaren van AI en kinderfoto’s

De gevaren van AI en kinderfoto’s

In een wereld waar de online wereld een groot deel van ons dagelijks leven bepaalt, is het niet gek dat we daar ook veel delen. Dat we in een chique restaurant genieten van een prachtig toetje, dat we die knappe BN’er net in het echt gezien hebben, dat we in de fitness staan te zweten en natuurlijk de eerste hapjes en stapjes en dat leuke outfitje van onze mini-me. Alles delen we online, de één wat meer dan de ander, maar is dat anno nu nog wel zo’n goed idee?

Geschreven door Nadia

De digitale ontwikkelingen gaan razendsnel

In deze tijd worden we overspoeld door snelle digitale vooruitgang. Vrijwel iedereen heeft tegenwoordig een smartphone waarmee we kunnen bellen, internetten en de hele dag door foto’s en video’s kunnen maken. Dat is iets wat we ons dertig jaar geleden niet hadden kunnen voorstellen. Maar terwijl deze ontwikkelingen ons veel gemak bieden, zijn er ook enkele die wellicht een grens overschrijden, of zelfs een beetje eng zijn. Hierbij doel ik vooral op ‘Artificial Intelligence’, oftewel AI.

Wat is AI?

Artificial Intelligence (AI), in het Nederlands ‘kunstmatige intelligentie’, verwijst naar de simulatie van menselijke intelligentieprocessen door computersystemen. Het doel van AI is om taken uit te voeren die normaal gesproken menselijke intelligentie vereisen. Dat klinkt erg handig, maar inmiddels is de ontwikkeling van AI zover dat er ontzettend realistische video’s gemaakt kunnen worden van mensen die nooit in die setting aanwezig zijn geweest. Leuk om jezelf terug te zien in de jungle met een aap op je schouder, minder grappig als je in een agressieve of seksuele setting geplaatst wordt.

Mijn kinderen amper op social media

Als trotse ouder heb ik een telefoon vol met foto’s van mijn kinderen. Ik vind alles wat ze doen leuk, knap, stoer of gek. Daarbij willen mijn kinderen zelf ook vaak op de foto, bijvoorbeeld als ze hoog bovenop een klimrek zitten. Goed, foto’s genoeg en daar ben ik zeker de enige niet in. Alleen zie je tegenwoordig geen van deze foto’s meer voorbij komen op mijn social media accounts.

Voordat ik moeder was had ik een openbaar Instagram-account met een paar duizend volgers. Die volgers had ik grotendeels door mijn blog. Toen ik zwanger was besloot ik dat ik het niet fijn vond, ik had geen idee wie al deze mensen waren in het echt. Mijn account kreeg een slotje en mijn feed was alleen nog zichtbaar voor mijn volgers, en al deze volgers heb ik in een paar avonden allemaal gescreend. Ken ik deze persoon? Zo ja, vind ik deze persoon aardig? Het werd uiteindelijk: als deze persoon mij zou uitnodigen voor een kopje koffie en ik zou JA zeggen, dan mocht de volger blijven.

En zo bleven er ongeveer 200 mensen over die ik allemaal in het echte leven ken. Ik plaatste regelmatig een leuke foto van mijn kinderen, maar toen kwam AI in een stroomversnelling en ging ik weer twijfelen. Wil ik dit wel? Ik besloot alle foto’s waar mijn kinderen alleen en van voren op staan, te verwijderen. Better safe than sorry.

Wat is er gevaarlijk aan AI?

We gebruiken AI al een tijdje op verschillende manieren, zo is Siri van Apple een variant van AI, je SMART koelkast, maar ook de chatbots van een klantenservice. Die dingen lijken mij redelijk onschadelijk, maar met foto’s en video’s wordt het een ander verhaal. Zoals ik net al zei kunnen programma’s aan de hand van foto’s en video’s een persoon in een setting zetten waar hij of zij nooit geweest is. Door video’s kunnen ze trekjes en manieren van bewegen kopiëren en zo een persoon dingen laten doen in een video die nooit gebeurd zijn.

Ik heb zelf in een programma gezien hoe beelden bewerkt kunnen worden tot een deepfake video en ik vind het shocking om te zien hoe echt het eruit ziet, terwijl het ver van de realiteit is. En dat zette mij aan het denken.

‘AI werkt kinderporno in de hand’

Kunnen we, in een wereld waar we zo gemakkelijk foto’s en video’s van onze kinderen delen en dat ook op grote schaal doen, dat nog verantwoordelijk noemen? Want het is maar een heel kleine moeite om geen herkenbare foto’s van je kinderen op je socials te plaatsen en het kan een groot probleem worden als jouw kind wel gebruikt wordt in een kindermisbruik filmpje. Volgens een onderzoek van de Britse zender BBC circuleert er al een hoop AI-gegenereerde kinderporno op het web. Verschrikkelijk!

Ook dit artikel van Knack over hoe AI kindermisbruik in de hand kan werken via onschuldige foto’s, opende mijn ogen. Wat als jouw openbare kinderfoto’s van je socials hiervoor gebruikt worden? Je moet er gewoon niet aan denken.

Privacy speelt ook een rol

Naast dit risico spelen er (voor mij) ook privacy issues mee. Op dit moment bepalen wij als ouders wat er online komt. Onze kinderen van drie en vijf jaar kunnen daar niet over beslissen, omdat ze niet weten wat het is. Wat wij nu schattig vinden, kunnen zij later gênant of stom vinden. En daarbij: dingen die op internet staan kunnen er soms maar van moeilijk van verdwijnen …

Via AI-systemen worden er ook hele collecties foto’s opgeslagen die overal vandaan kunnen komen, als jij dan een foto upload in dat systeem gaat dat aan de slag om te zoeken naar foto’s waar dat gezicht nog meer op voorkomt. Staat jouw kind op de foto van school of het kinderdagverblijf? Dan weten mensen meteen de locatie waar jouw kind doordeweeks vaak te vinden is. In de meeste gevallen zal dit niet gebeuren, maar het zal net jouw kind zijn waar dit wel gebeurd. Ik moet er niet aan denken …

Bewust van gevaren

Hoe trots ik ook ben en hoe leuk ik mijn kinderen ook op een foto vind staan, er komen geen herkenbare foto’s en filmpjes meer online. Uit respect, privacy maar vooral ook voor hun veiligheid. Daarom hoop ik dat ik andere ouders ook aan het denken heb gezet. Iedere ouder wil zijn of haar kinderen beschermen tegen gevaren, maar dat kan alleen als je de gevaren ziet of kent. AI gaat ons zeker veel brengen, maar heeft helaas ook een heel duistere kant. Laten we daar alert op zijn.

Beeld: iStock.com/mediaphotos, SanyaSM