AI voor een veilige openbare ruimte

Oddity herkent crimineel gedrag dat door het menselijk oog gemist wordt. Drie studenten Business Informatics aan de Universiteit Utrecht met een drive om de publieke ruimte veiliger te maken. Dat was de start van Oddity, een startup die AI inzet criminele gedragingen op beeld te herkennen. Ze trokken verschillende keren de stoute schoenen aan, waardoor ze de eerste klanten aan zich weten te binden. Een van de oprichters Thomas Alflen aan het woord.

Gestart vanuit de collegebanken

“We zijn ongeveer drie jaar geleden begonnen vanuit de collegebanken van de Universiteit Utrecht. We waren drie studenten met ervaring in data science, AI, en ook business en ICT. We zagen dat er steeds meer camera’s op straat kwamen en wij wilden ons idee om realtime gedrag op beeld te herkennen toetsen. We waren benieuwd. Hoe gaat dat aan de achterkant; wie of wat bekijkt de camerabeelden en hoe gaat dat in z’n werk? We trokken de stoute schoenen aan en hebben de politie gebeld met de vraag of we eens in een surveillance-ruimte mochten kijken. Dat mocht! Heel fascinerend om mee te maken”.

Er was een behoefte en wij hadden kennis

“Wat ons opviel was dat het vrij reactief was. Vaak was het wachten op een melding, waarna er live werd meegekeken door de observant. Wij hadden de visie dat de observanten in de surveillanceruimte incidenten als eerste moeten kunnen zien. Nu werd het merendeel voor het oog van de camera nog gemist. Er zijn te veel camera’s en te weinig mensen om alle beelden te bekijken. En dat terwijl je gedragingen, zoals geweld natuurlijk echt niet wilt missen! Toen we in die surveillanceruimtes waren geweest, dachten we: hier is echt een behoefte en hier kunnen wij onze kennis toepassen, we kunnen een prototype maken”.

Objecten herkennen kon al, maar activiteiten niet

“Het herkennen van objecten in beelden was er al een tijd. Maar algoritmes die activiteiten of gedragingen kunnen herkennen, zonder gezichten of mensen te herkennen, waren er nog niet. Als je het hebt over geweld dan konden wapens al wel herkend worden, maar gewelddadig gedrag nog niet. Daar zijn wij mee aan de slag gegaan”.

Een betaalde pilot liet meerwaarde zien

“We initieerden een betaalde pilot in een Living Lab in Nederland. Toen we in vijf maanden met drie camera’s al tien geweldsincidenten hadden herkend, waarvan er zes gemist waren door de surveillanceruimte, was in een klap de meerwaarde duidelijk”.

Klanten komen, maar ook lastig binnenkomen

“Inmiddels werken we niet alleen voor politie, maar ook voor gesloten inrichtingen zoals gevangenissen en psychologische instellingen. Toch blijkt het steeds weer lastig om binnen te komen bij publieke organisaties. Op het juiste niveau bij de juiste mensen aan tafel komen lukt nog niet altijd. Artificial Intelligence wordt in publieke organisaties nog niet veel toegepast. Het wordt vaak ook wel als spannend gezien, omdat er nog niet veel ervaring mee is. Wat ook niet makkelijk is voor ons, zijn aanbestedingstrajecten. Maar als we eenmaal binnen zijn, hebben we vooral heel dankbare klanten. Als er mensen – lezers van dit stuk –  zijn die ons kunnen helpen bij op het juiste niveau, bij de juiste personen te introduceren, horen we het heel graag!”.

Gedreven door een veiligere publieke omgeving

“Ook is er soms weerstand tegen cameratoezicht in het algemeen. Het biedt wel kansen voor een veiligere publieke omgeving, dus daar gaan we voor! We zijn ook niet voor meer camera’s, maar juist om effectiever gebruik te maken van de camera’s die er al zijn. In de toekomst zien we voor ons dat camera’s geen beeld doorgeven, tenzij een criminele gedraging zich voordoet. Nu wordt er veel meer bekeken door menselijke observanten, waardoor privacy in het geding komt. In de toekomst hopen we dat ons algoritme alleen beelden laat zien aan de observant wanneer dat nodig is. De menselijke observant, de “human in the loop” blijft degene die beslist wat er moet gebeuren. We voldoen ook aan de AVG en we kunnen ondersteunen met DPIA’s”.

Surveillanten voelen zich ondersteund

“Je hoort wel eens dat de inzet van AI mensenwerk overbodig maakt, of dat mensen daar angst voor hebben. Wij zien eigenlijk alleen maar enthousiasme bij observanten. De hele tijd naar beeldschermen kijken is niet het meest boeiende werk. Terwijl het opvolgen van incidenten wel echt mensenwerk is. Als je iets ziet, verdachte gedragingen of geweld, dan moeten er mensen heen. Deze mensen worden dus juist ondersteund door data en AI. Ze hebben nu meer tijd voor andere taken, die echt mensenwerk zijn”.

Goede connecties met Universiteit Utrecht

“Ik ben trots op wat we bereikt hebben. We hebben goed geluisterd naar agenten en observanten en iets moois gemaakt. Veel talent wil bij ons werken. We hebben goede connecties met de UU en dat maakt het makkelijker om aan die goede mensen te komen. Met die mensen kunnen we ook steeds vernieuwen. Dat vinden we heel belangrijk. Langzaamaan vergroten we de publieke veiligheid door te werken aan een slimmere en efficiëntere toezichtruimte.

Blijf op de hoogte!

Wil je op de hoogte blijven van al het nieuws rondom de AI Hub Midden Nederland? Kijk dan op de LinkedIn pagina van de ROM Utrecht Region. Heb je vragen of ideeën over de AI Hub Midden Nederland? Je kunt ons bereiken via aihub@romutrechtregion.nl.