‘Met gadgets als Meta Glasses betalen we voor surveillance op onszelf’

Een bril die nauwelijks te onderscheiden is van een gewone Ray-Ban, maar die ondertussen filmt, foto’s maakt en een ingebouwde AI-assistent die meekijkt: in 2023 kwamen de Meta Glasses op de markt. Wereldwijd gingen er al zo’n zeven miljoen van de ‘smartphone in brilvorm’ de toonbank, sinds vorig jaar zijn ze ook in Nederland te koop. Marc Schuilenburg ziet ook schaduwkanten aan de handig gadget: “De belofte van gemak mondt uit in paranoia en schijnveiligheid.”

Marc Schuilenburg is hoogleraar Digital Surveillance aan Erasmus School of Law. Hij onderzoekt de de gevolgen van AI en surveillancetechnologieën voor macht, veiligheid en de samenleving.

Meta verkoopt de bril als een handig hulpmiddel. Hoe kijk je daarnaar?

“De Meta AI-Glasses passen in een lange rij gadgets die worden verkocht met de belofte van gemak, efficientie en veiligheid, en die ik omschrijf als ‘luxe surveillance’. Denk ook aan de Fitbit, Apple Watch, Ring-deurbel van Amazon, en robotstofzuigers zoals de Roomba.

Surveillance gaat over kijken én bekeken worden. In de sociale wetenschappen dachten we daarbij altijd aan beveiligingscamera’s, scanners op vliegvelden, bodycams van de politie of aan de Chinese overheid: extern opgelegd toezicht. Maar deze producten schaffen burgers zelf aan, en ze zijn bereid er flink voor te betalen. Het zijn gadgets die in eerste instantie als exclusief voor een rijke bovenklasse op de markt worden gebracht. Uiteindelijk worden ze goedkoper en raken ze genormaliseerd en voor iedereen beschikbaar. Een Ring-deurbel kostte ooit honderden euro’s, inmiddels krijg je hem bij wijze van spreken gratis bij het afsluiten van een inboedelverzekering. Zo betalen we voor surveillane op onszelf.”

Wat is daar problematisch aan?

“Niet eens zozeer dat er constant overal camera’s aanstaan. Door andere gadgets, zoals de smartphone, zijn we daar al gewend aan geraakt en is het al bijna onmogelijk om anoniem in de publieke ruimte te kunnen bewegen. Het wordt een groter probleem als de beelden door AI worden gekoppeld aan andere databases, en vervolgens op basis van zelflerende algoritmes het gebruik van sommige groepen als ‘vertrouwd’, en andere juist als ‘onbekend’ worden gezien.

“De Ring-deurbel heeft bijvoorbeeld een ‘familiar faces’ functie, ofwel automatische gezichtsherkenning. De kans is groot dat Meta Glasses ook zo’n functie krijgt. De feature bepaalt wat bekend is. Wat niet bekend is, is daarmee automatisch verdacht. Maar herkenning is geen neutraal moment, het wordt geïnformeerd door langlopende culturele en politieke processen, die ook in die algoritmes zijn verwerkt. En zo worden allerlei personen op voorhand ‘verdacht’, wat allerlei stigmatiserende categorieën in de hand werkt, van ‘hangjongeren’ tot ‘illegale immigranten’.

Wie zijn juridisch gezien de eigenaar van de beelden die gemaakt worden door Meta Glasses?

“Meta vraagt of je data wil delen voor het verbeteren of personaliseren van het product. Het is noodzakelijk om die optie aan te zetten om bepaalde features van de Glasses te gebruiken, zoals het delen van foto’s en video’s met vrienden met spraakbediening. Zo belanden je beelden bij Meta. En op die manier werk je als gebruiker eigenlijk gratis voor dat techbedrijf. Meta gebruikt die beelden om hun AI verder te trainen, en daar schuilt een hele infrastructuur achter. Van energieslurpende datacenters tot de personen die voor een hongerloon de beelden moeten bekijken om ze te labelen.”

Zowel Meta Glasses als die deurbel slaan zonder toestemming beelden op van mensen. Is dat niet een ernstige overtreding van de AVG, de Europese privacywet?

“Absoluut. Maar het gebeurt op zo’n grote schaal, dat de Autoriteit Persoonsgegevens, die dit zou moeten handhaven, er niks mee kan. Inmiddels hebben 1,6 miljoen Nederlandse huishoudens de slimme deurbel. Dat valt niet te controleren. Hierdoor hoeven deze bedrijven aan veel lagere juridische en ethische eisen te voldoen als de politie bijvoorbeeld. Dat is paradoxaal: techpartijen werken zich steeds meer op het gebied van publieke vraagstukken als veiligheid, terwijl de waarborgen die er voor de politie zijn, niet in dezelfde mate gelden voor deze bedrijven.”

Kunnen we bedrijven als Meta niet verbieden om dit soort functies in hun producten in te bouwen?

“De EU probeert met de AI-Act wel strengere eisen te stellen. Maar ze hollen constant achter de feiten aan. En het is lastig dat deze producten veelal in de VS worden gemaakt, waarvan we weinig hoeven te verwachten wat betreft wet- en regelgeving.”

Moeten we ons ook zorgen maken over de verstrengeling tussen die commerciële bedrijven en de staat, zoals er in de VS al voorbeelden van zijn?

“Amazon was ooit een boekhandel. Inmiddels maakt het een enorme winst met hun veiligheidsproducten. Vergeet ook niet dat Amazon Ring samenwerkte met Axon en Flock Safety. Dat zijn bedrijven die geautomatiseerde bewakingstechnologie leveren aan Amerikaanse politiekorpsen. Flock deelde weer gegevens uit hun eigen landelijke cameranetwerken met de immigratiedienst ICE. Zo tuigt Amazon met een slimme deurbel een hele AI-infrastructuur op die niets meer heeft te maken met de klassieke functie van aanbellen en de deur opendoen.  

“In Nederland werkt het anders. Wettelijk mag de politie hier tot vier jaar terug gegevens opvragen, maar alleen als er sprake is van een verdenking van een misdrijf. Burgers kunnen hun camera’s vrijwillig aanmelden bij de politie, die er in de gevallen van een verdenking gebruik van kan maken. Alleen via een officiële wettelijke vordering van de officier van justitie mag de politie afdwingen om camerabeelden te delen.”

Hoe zouden we als samenleving met de introductie van Meta Glasses en soortgelijke gadgets om moeten gaan?

“Er is in Nederland nauwelijks publiek debat over. Er zijn wel wat organisaties zoals Bits of Freedom die hier scherp op zijn, maar er moet echt meer kritisch geluid komen. Mensen moeten zich bewuster worden van die AI-infrastructuur achter de gemaksproducten die ze gebruiken, van hun data, waar dat heen gaat, en welke maatschappelijke consequenties dat heeft.”

Hoe zie je de ontwikkeling van deze technologie verder gaan?

“Voor een onderzoek dat ik met twee studenten deed, spraken we personen in vier Rotterdamse wijken gesproken die de Amazon Ring gebruiken. Daaruit blijkt dat de belofte van gemak en veiligheid eigenlijk vooral leidt tot paranoia en schijnveiligheid. Zo’n apparaat staat de hele tijd te piepen als er weer iets of iemand voorbij komt dat het niet herkent. Als gebruiker wordt je de hele tijd gewezen op potentiële dreiging. Daar wordt je onrustig van.

“Ik denk dat deze technologie steeds verder geïntegreerd wordt in allerlei consumentenproducten en er steeds meer koppelingen tussen die databases komen. Denk aan drones met camera’s die constant over ons hoofd gaan vliegen of Meta Glasses met emotieherkenning. Door deze technologie verwachten we dat alles in ons leven zo efficiënt, comfortabel en soepel mogelijk verloopt, zonder fricties of risico’s. Zolang we er niet kritischer naar gaan denken, blijven mensen bereid hun persoonlijke gegevens weg te geven in ruil voor deze beloften van Amerikaanse techpartijen.”