De Nederlandse Publieke Omroep pioniert zorgvuldig met AI

De Nederlandse Publieke Omroep (NPO) onderzoekt nieuwe technologieën en pioniert ook met Artificial Intelligence. Wat doet de NPO precies op het gebied van AI? We vroegen het aan Sarah van der Land. Zij is namelijk bij de NPO Lead van het Experiment Team binnen NPO Innovatie.

Sarah is niet nieuw bij de NPO: “Ik werk sinds 2017 bij de NPO en ik kan je verzekeren, we pionieren echt met AI en dat soort technieken. Wie tijdens Dutch Media Week de keynote van Ezra Eeman hoorde, weet dat de ontwikkelingen rondom AI de NPO bezig houden. Sinds 1 juni is Ezra directeur Strategie en Innovatie bij de NPO en heeft daarmee ook AI in zijn portefeuille. Het is mooi om te zien dat er steeds meer mensen binnen de NPO met het onderwerp bezig zijn”.

AI wordt een co-piloot

“Voor de media zijn er zoveel uitdagingen en kansen. De belofte van AI die voor ons heel relevant is, onder andere ‘personaliseren en aanbevelingen doen’. Daarmee kunnen we de content namelijk zo presenteren dat het zo goed mogelijk aansluit bij de behoefte van onze gebruikers. En in het hele proces van het creëren van content is AI natuurlijk een grote kans én uitdaging. Ik geloof dat AI een co-piloot wordt om steeds mee te schakelen. Niet de captain, want de mens moet altijd in de loop blijven. We willen alles goed en zorgvuldig doen voor de gebruikers van onze applicaties”.

Zorgvuldigheid enorm belangrijk

“De grote massa weet sinds november 2022 eigenlijk pas wat zoiets als ChatGPT kan. Wij zijn daar al sinds 2015 of langer mee bezig, met data en dit soort technieken, zoals Natural Language Models. Zorgvuldigheid is daarbij enorm belangrijk, dus we staan zeker ook stil bij de ethische vraagstukken die nieuwe technologie met zich meebrengt. In 2021 hebben we een intentieverklaring verantwoord gebruik van KI in de media opgesteld. Dat deden we samen met RTL en Beeld en Geluid. Daarin staat bijvoorbeeld beschreven hoe we modellen willen trainen. Maar sinds 2021 zijn er alweer zoveel nieuwe ontwikkelingen. Denk aan Generatieve AI, denk aan ChatGPT. Onze richtlijnen zijn al weer toe aan een update, die we binnenkort zullen presenteren”.

Een visie op de rol van de NPO

“Met de kaders en richtlijnen voor het toepassen van AI willen we uiteindelijk komen tot een visie op wat onze rol als publieke omroep zou moeten zijn als het gaat om AI. We kijken natuurlijk goed naar wat er op Europees niveau gebeurt, met de AI Act bijvoorbeeld. Daarvan willen we een specifieke visie voor de mediasector maken”.

Context en nuancering nodig

“Wat daarbij belangrijk is, is dat we context en nuancering aanbrengen. Op Europees niveau zie je dat gezichtsherkenning als groot risico gezien wordt. Dat zal ook in Nederland worden overgenomen en dan zul je horen: ‘gezichtsherkenning mag niet meer’. Maar Beeld & Geluid bijvoorbeeld gebruik het juist heel veel om in hun enorme archieven te kunnen zoeken. Nuancering en context zijn dus echt nodig; Wanneer mag gezichtsherkenning wel en wanneer niet? We moeten de vertaalslag maken: wat betekent AI voor de media sector?

Clash met publieke waarden

“We zijn huiverig voor een monopolie-positie van vaak grote, Amerikaanse tech-bedrijven die een eigen agenda hebben, die ligt meestal niet in lijn met onze publieke waarden. Vanuit onze CTO, Willem Roskam, is het devies: zoveel mogelijk zelf bouwen als dat mogelijk is. Onze Machine-Learning-engineer, Bob van de Velde, zegt weleens dat we “alles” de afgelopen twee jaar hebben vervangen en zelf hebben gebouwd. Daar zitten natuurlijk haken en ogen aan als je kijkt naar tijd en capaciteit, en de vraag wat voor bedrijf je wilt zijn. We zullen in ieder geval ook modellen van anderen onderzoeken. Zijn die bijvoorbeeld wel transparant over hoe ze getraind zijn? Op basis van welke data, en zeggen ze iets over de bias in de data?”.

Innoveren moet je samen doen

“We werken veel met kennisinstellingen, omroepen, mediabedrijven en andere organisaties samen. Als het gaat om responsible AI, dan is de DRAMA samenwerking daar een mooi voorbeeld van. DRAMA staat voor Designing Responsible AI for Media Applications en het is een samenwerking tussen de NPO en onder andere de Hogeschool Rotterdam en de Hogeschool Utrecht. In de regio Utrecht werken we ook met Thomas Dohmen van de AI Labs van de Universiteit Utrecht. We haken aan bij usecases, zodat PhD-studenten er ook van kunnen leren.

Mijn collega Egon Verharen, manager innovatie werkt samen met veel partijen aan een Nederlandse Datakluis. Data is natuurlijk brandstof voor AI. Met een datakluis worden gebruikers van applicaties de baas over hun data. Ze bepalen zelf wat ze in welke situatie wel en niet ter beschikking stellen. Een van de onderzoeksvragen daar wordt hoe je AI algoritmes op de persoonlijke data in de datakluis kan laten werken in plaats van op geaggregeerde data aan de kant van onze diensten. Dat soort grote projecten kun je niet alleen! Innoveren op deze schaal moet je samen doen. Het mooie van de Datakluis is dat er ook veel potentie is voor bijvoorbeeld de gezondheidssector. De lessen die we leren in het datakluisproject worden daarvoor natuurlijk gedeeld”.