Donderdagavond 16 maart was het zover: ik moest een praatje over "AI en Taal- en Spraaktech" geven bij Kennedy van der Laan voor een zaal vol advocaten (dacht ik). Per trein en OV-fiets naar de locatie tegenover het Westerpark. Mooie fietstocht door A'dam in iets dat zweemt naar het voorjaar. Zoals altijd een tikkie zenuwachtig: wat zijn dit voor mensen, is het een strakke-pakken-club van mensen met teveel eigendunk en geen interesse noch kennis van ICT? Spannend, dat wel!
Koffie genomen en handjes geschud met zowel Jelle (de organisator) als de twee overige sprekers: Nicole, een privacy advocate en Koos van KPMG.
Thema
Het thema van de avond was "Een Luisterend Oor" en het werd georganiseerd door Jelle van Veenen in het kader van de Dutch Legal Tech Meetup.De achterliggende vraag was: "Wat zijn de juridische consequenties van de (toenemende) aanwezigheid van constant luisterende en participerende "smart devices" in de samenleving?"
Door de recente ontwikkelingen op het gebied van Taal-en Spraaktechnologie begrijpen onze apparaten ons steeds beter. Dat gekoppeld aan de eenvoud om grote hoeveelheden data (=audio) snel en goedkoop te streamen is een van de oorzaken dat er steeds meer digitale assistenten op de markt komen die via spraak met ons communiceren. Aan de ene kant biedt dit, ook voor juridisch werk, kansen. Het wordt steeds eenvoudiger om ook gesproken tekst toegankelijk te maken, zoals rechtspraak of besluitvorming.
Aan de andere kant is er een zeer reeele kans dat onze privacy weer een beetje minder wordt. Zo bleken de Amerikaanse Inlichtingsdiensten "ons" via smart tv's en kinderspeelgoed al af te kunnen luisteren. Wat mag er eigenlijk, wat kan er nu en binnenkort en hoe denken "wij" daarover? Dat waren de drie onderwerpen waarover gediscussieerd zou worden.
Waarom is dit belangrijk?
Er komen steeds meer apparaten in onze omgeving die in staat zijn om op een steeds normalere manier met ons te "communiceren". Ze staan permanent aan en proberen iets te doen met de spraak die ze opnemen. Maar dat doen ze niet lokaal, maar in de cloud. Dus jouw spraak wordt naar Californie gestuurd alwaar het wordt "verwerkt" (=herkend en met de herkenningsresultaten iets doen).
Als voorbeeld het volgende: een meisje krijgt een Pluche Barbiepop (zie foto) die permanent luistert naar mogelijk commando's of vragen. Als de pop iets hoort en daar wat mee kan, dan reageert ze middels spraak en wellicht een actie zoals het oplichten van het neusje. Omdat de pop niet weet wanneer ze in actie moet komen, luistert "ze" de hele tijd. Klinkt leuk maar wat gebeurt er met die permanent gestreamde audio? Wordt die opgeslagen, gaan bedrijven alles door de herkenner halen om op die manier de wensen van de kinderen en/of de ouders in kaart te brengen om ze vervolgens te bestoken met gepersonaliseerde reclame? Vader zegt tegen z'n dochter dat ze een nieuwe auto gaan kopen en beng: ze worden bestookt met aanbiedingen!
Een ander voorbeeld dat de privacy advocate noemde was de Alexa Moordzaak.
Benton County Prosecuting Attorney Nathan Smith hopes the voice-activated Echo -- which answers users' questions, plays music, reads news and connects to other smart devices -- will provide information on how a man came to be found dead in 31-year-old James Bates' hot tub
De FBI had het idee dat in de uren voor de moord er gesproken was in de buurt van Alexa. Omdat Alexa blijkbaar alles opneemt (en bewaart) wilde de FBI de opnamen hebben. Dat is vreemd want Amazon geeft aan dat ze niets opnemen tot iemand (herkenbaar) Alexa roept. Maar blijkbaar ligt dat anders. Amazon toont zich nu een voorvechter van de privacy en weigerde de data te geven. Uiteindelijk gingen ze overstag omdat de eigenaar van Alexa aangaf dat hij het goed vond. Maar...... het geeft wel te denken.
Sprekers
| Nicole Wolters-Ruckert | lid van het Team Privacy van Kennedy Van der Laan. Ze adviseert over een breed scala aan privacy-onderwerpen. Haar speerpunten zijn de cookie- en antispamwetgeving en het commerciële gebruik van persoonsgegevens, zoals advisering over direct marketing, profiling, online advertising en big data (analytics). |
| Arjan van Hessen | als onderzoeker (Universiteit Utrecht, Universiteit Twente) betrokken bij de ontwikkeling van Taal-en Spraaktechnologie. Bij Telecats zorgt hij er voor dat de academische ontwikkelingen in het bedrijfsleven hun toepassing vinden. Hij richt zich met name op het toegankelijk maken van grote hoeveelheden spraak, en deed projecten gericht op de geesteswetenschappen, het vastleggen van gesproken geschiedenis, het ontsluiten van rechtspraak en het efficiënter werken met gesproken tekst bij de FIOD. |
| Koos Wolters | is één van de managing partners van het cyber security team van KPMG. Hij heeft ruime ervaring op het gebied van IT proces control en is gespecialiseerd in information security (strategy, governance, policies en awareness) en IT governance, control en optimalisatie. Al meer dan 15 jaar adviseert Koos bestuurders van grote organisatie op het gebied van information security. |
Dinsdagochtend 7 feb 2017 werd ik door een onbekend nummer gebeld: "Bent u Arjan van Hessen en kunt u van 14:00 tot 15:00 in de uitzending met Jörgen Raymann komen praten over kunstmatige intelligentie? Het is zo'n praatprogramma waarin mensen via social media of via de telefoon, vragen over alles kunnen stellen aan mensen die geacht worden daar iets vanaf te weten. In dit geval gaat het om kunstmatige intelligentie."
Onderzoekers vrezen dat de kunstmatige intelligentie voor verkeerde dingen gebruikt gaat worden, denk bijvoorbeeld aan killerrobots.