Zondag 05/12/2021

Technologie

Hey Google, Siri en Alexa: luisteren jullie ons af terwijl we niet opletten?

null Beeld Amazon
Beeld Amazon

Slimme assistenten zoals Alexa van Amazon of Google Assistant van de gelijknamige techreus vinden steeds meer hun weg naar de gebruiker. De vraag is: wat kunnen die digitale assistenten allemaal horen, en vooral: wat doen ze ermee?

Amazon speelde een reclamespotje op de Super Bowl van dit jaar waarin het beweerde dat zijn digitale assistent Alexa tijdelijk haar stem verloren had. Er traden beroemdheden in aan zoals Rebel Wilson, Cardi B en zelfs de CEO van het bedrijf, Jeff Bezos. Terwijl het spotje vooral inging op wat Alexa tegen de gebruikers kan zeggen, is de meest intrigerende vraag wellicht wat zij en andere digitale assistenten kunnen horen – vooral nu alsmaar meer mensen gebruikmaken van smart speakers.

Amazon en Google, die de meeste van die toestellen slijten, zeggen dat de assistenten audio alleen opnemen en verwerken nadat de gebruiker op een knop heeft gedrukt of een zinnetje zoals ‘Hey, Alexa’ of ‘Oké, Google’ geuit heeft. Maar beide bedrijven hebben patenten aangevraagd voor een hele resem mogelijkheden waarmee de apparaten meer kunnen doen dan registreren wat de gebruikers zeggen en doen. Die informatie kan vervolgens gebruikt worden om de wensen en interesses van de gebruiker te identificeren, wat kan helpen om gerichter te adverteren.

'Voice sniffer algorithm'

Bij een patent heeft Amazon het over een ‘voice sniffer algorithm’, dat gebruikt kan worden in apparaten zoals tablets en e-bookreaders, om bijna in realtime audio te analyseren als het woorden als ‘liefde’, ‘gekocht’ of ‘niet leuk’ opvangt. Bij de aanvraag zat een grafiek die illustreerde hoe een telefoongesprek tussen twee vrienden ertoe kan leiden dat een van beiden warm gemaakt wordt om de San Diego Zoo te bezoeken en de andere reclame voor het lidmaatschap van de Wine of the Month Club te zien krijgt.

Sommige patentaanvragen van Google, dat ook eigenaar is van Nest Labs, een maker van smarthomeproducten, beschrijven hoe audio- en videosignalen gebruikt kunnen worden in de context van een uitgebreide smarthomeomgeving.

Een van die aanvragen legt uit hoe je de audio kunt analyseren om te achterhalen wanneer een kind thuis de boel op stelten zet door met behulp van spraakpatronen en stemhoogte de aanwezigheid van een kind vast te stellen. Een toestel zou vervolgens beweging kunnen traceren en op zoek gaan naar gefluister of stilte, en zou zelfs een smart speaker kunnen aansturen om een ‘verbale waarschuwing’ af te vuren.

Een andere aanvraag die de content wil personaliseren zonder de privacy van de gebruiker aan te tasten, stelde dat je stemmen kunt gebruiken om de gemoedsgesteldheid van een spreker te bepalen aan de hand van “het volume van de stem, de ademhaling, wenen, enzovoort”, en zelfs zijn medische toestand, op basis van “hoesten, niezen, enzovoort”.

Dezelfde patentaanvraag legt uit hoe een toestel “een T-shirt in de kast van de gebruiker kan herkennen” met de beeltenis van Will Smith en dat kan combineren met de browsegeschiedenis van de gebruiker om “een filmaanbeveling te sturen die zegt: ‘U lijkt een fan van Will Smith. Zijn nieuwe film loopt in een zaal in uw buurt.’”

In een publieke verklaring stelde Amazon dat het de privacy ernstig neemt en “stemopnamen van de gebruikers niet gebruikt voor gerichte reclame”. Amazon zei dat het “een aantal patenten heeft aangevraagd die de volle mogelijkheden van de nieuwe technologie onderzoeken”, en dat “het jaren duurt om die te krijgen en dat ze niet per se weergeven hoe producten en diensten zich momenteel ontwikkelen”.

Volgens Google gebruikt het “geen ruwe audio om stemmingen, de medische toestand of demografische informatie te extrapoleren”. “Alle apparaten die samenhangen met Google Assistant, waaronder Google Home, zijn ontworpen met de privacy van de gebruiker in het achterhoofd.”

Verre toekomstmuziek

Elk jaar vragen techbedrijven duizelingwekkend veel patenten aan. Veel toepassingen worden nooit uitgewerkt, of zijn heel verre toekomstmuziek. Toch stelt Jamie Court, de voorzitter van Consumer Watchdog, een onafhankelijke consumentenorganisatie uit Santa Monica in Californië die in december vorig jaar een onderzoek over de patentaanvragen publiceerde: “Als je die aanvragen doorleest, dan is het heel duidelijk dat het gaat om spyware en een monitoringsysteem dat erop gericht is je aan adverteerders over te leveren.”

De bedrijven, zegt Court, “willen in feite achterhalen hoe het er thuis bij ons kwalitatief toegaat”.

Google noemde de beweringen van Consumer Watchdog “ongegrond’ en zei: “Je kunt uit onze patentaanvragen niet zomaar afleiden hoe we willen adverteren voor producten.”

Een recente peiling van Gallup toonde aan dat 22 procent van de Amerikanen toestellen zoals Google Home en Amazon Echo gebruikt. Het groeiende gebruik van smart speakers houdt in dat gadgets, waarvan sommige tot acht microfoons en een camera bevatten, in keukens en slaapkamers terechtkomen en worden gebruikt om vragen te beantwoorden, toepassingen te controleren en telefoontjes te maken. Apple introduceerde onlangs zijn eigen versie, de HomePod.

Maar veel consumenten worden ook stilaan nerveus door dat luistervinken van techbedrijven om hun gerichte reclame te sturen, hoe hard de bedrijven dat ook ontkennen. Die nervositeit over het verzamelen en gebruiken van persoonlijke informatie werd nog gevoed door de recente onthulling dat een Brits databedrijf, Cambridge Analytica, op illegale manier informatie over 50 miljoen Facebook-gebruikers verwierf.

Controverse

Facebook was zinnens zijn met het internet verbonden producten voor in huis in mei voor te stellen op een conferentie voor ontwikkelaars, meldde Bloomberg News. Volgens het persbureau gaf het bedrijf dat plan op vanwege de recente controverse.

Amazon en Google benadrukken dat toestellen die samenhangen met Alexa en Google Assistant stemopnamen van gebruikers alleen opslaan als de gebruiker zich daar bewust van is. De Echo van Amazon en zijn nieuwere smart speakers met schermen gebruiken licht om aan te geven wanneer ze audio naar de cloud streamen, en gebruikers kunnen met de smartphoneapp van Alexa of op de website van Amazon de opnamen opvolgen en verwijderen. Ook Google Home heeft een lichtje dat aangeeft wanneer het aan het opnemen is, en gebruikers kunnen de audio online ook bekijken en verwijderen.

Amazon beweert dat de opnamen kunnen helpen om beter op vragen in te gaan en zijn diensten te optimaliseren. Google zegt dat de data helpen om in de toekomst beter, gepersonaliseerder aan de gebruiker tegemoet te komen.

Maar het ecosysteem rond stemdata is nog in volle ontwikkeling.

Neem de duizenden apps die derde partijen voor Alexa hebben ontwikkeld, de zogenaamde skills, die gebruikt kunnen worden om spelletjes te spelen, de lichten te dimmen of poetsadvies te geven. Amazon zei eerder dat het de opnamen niet deelt met derde partijen, maar in de voorwaarden voor het gebruik van Alexa staat wel dat het de inhoud van hun verzoeken en informatie zoals hun ZIP-codes kan delen. Google zegt dat het ‘in het algemeen’ geen audio doorgeeft aan andere service providers, maar wel transcripties van wat mensen zeggen kan aanleveren.

En sommige apparaten hebben al aangetoond dat ze meer kunnen opnemen dan gebruikers denken. Google werd in de herfst van vorig jaar in verlegenheid gebracht toen bleek dat Google Home Mini’s die het verdeeld had op bedrijfsevents en bij journalisten, vrijwel constant aan het opnemen waren.

Opnamen van moord

In 2016 vroegen rechercheurs die een moord in een huis in Arkansas onderzochten toegang tot de audiobestanden van een Echo-toestel. Amazon verzette zich daartegen. De opnamen werden uiteindelijk wel vrijgegeven op vraag van de aangeklaagde, James Bates. (Een rechter sprak Bates later vrij op basis van ander bewijs.)

Kathleen Zellner, zijn advocaat, zei in een interview dat de Echo meer had opgenomen dan hij had mogen doen. Bates vertelde haar dat het toestel regelmatig zomaar, zonder reden had opgelicht en ook gesprekken die geen verband hielden met bevelen aan Alexa had opgeslagen, waaronder een gesprek over voetbal in een andere kamer.

“De manier waarop de activering gebeurde was extreem slordig”, zei ze.

Het Electronic Privacy Information Center in Amerika beveelt veel strengere privacyregels voor met het internet verbonden toestellen aan. Daar hoort ook een ‘algoritmische transparantie’ bij, die mensen zou helpen te begrijpen hoe hun data gebruikt worden en tot welke geautomatiseerde beslissingen over hen dat leidt.

Sam Lester, verantwoordelijk voor consumentenprivacy bij het centrum, vindt dat de mogelijkheden van smarthomeapparaten onderstrepen dat de Amerikaanse regulatoren zich meer moeten gaan bezighouden met de manier waarop consumentengegevens verzameld en gebruikt worden.

“Veel van die technologische innovaties kunnen goed zijn voor de consument”, zegt hij. “Maar het is niet de verantwoordelijkheid van consumenten om zich te beschermen tegen deze producten, net zo min als het de verantwoordelijkheid van de consumenten is om zich te beschermen tegen de veiligheidsrisico’s van voeding en geneesmiddelen. Dat is de reden waarom jaren geleden de Food and Drug Administration werd opgericht.”

© The New York Times

Meer over

Nu belangrijker dan ooit: steun kwaliteitsjournalistiek.

Neem een abonnement op De Morgen


Op alle artikelen, foto's en video's op demorgen.be rust auteursrecht. Deeplinken kan, maar dan zonder dat onze content in een nieuw frame op uw website verschijnt. Graag enkel de titel van onze website en de titel van het artikel vermelden in de link. Indien u teksten, foto's of video's op een andere manier wenst over te nemen, mail dan naar info@demorgen.be.
DPG Media nv – Mediaplein 1, 2018 Antwerpen – RPR Antwerpen nr. 0432.306.234