Overview
Onzichtbaar worden wie droomt daar niet van. Als kind wilde je dat waarschijnlijk al. Maar met de huidige automatische detectie cameras wil je het wellicht nog veel liever. Kort geleden is er een paper uitgekomen van de Belgische onderzoeksgroep EAVISE aan de KU Leuven waarin het detectie algoritme YoloV2 succesvol wordt aangevallen. Een bordje van 40x40cm maakt een persoon onzichtbaar voor dit algoritme, zelfs in realtime video streaming.
Het kraken van dit algoritme biedt kansen, zo zou je met bepaalde kleding een ethische opt-out kunnen maken waarmee je waarmee je niet meer gevolgd kunt worden door publieke beveiligingscamera’s.
De Dataloog spreekt met de auteurs van dit paper over de werking van het algoritme en de gevolgen die het kraken van dit algoritme heeft. We staan nog maar aan het begin deze ontwikkeling, maar we gaan vast nog veel horen in de toekomst van adversarial networks.
Simen Thys
Simen Thys studeerde in 2019 af als Master Industriële Wetenschappen Elektronica-ICT aan KU Leuven Campus De Nayer. Tijdens zijn masterproef kreeg hij van onderzoeksgroep EAVISE de kans om vanuit interesse voor computervisie en artificiële intelligentie onderzoek te doen naar adversarial examples. Onder supervisie van Wiebe Van Ranst en Toon Goedemé toonde hij aan dat software gebruikt voor intelligente camera’s vatbaar is voor aanvallen vanuit de echte wereld. Momenteel is Simen op zoek naar een nieuwe uitdaging in AI of computervisie.
Wiebe van Ranst
Wiebe Van Ranst haalde in 2011 zijn bachelor diploma in Electronika -ICT. Twee jaar later haalde hij ook zijn master diploma in hetzelfde onderwerp. Zijn bachelor, en masterthesis gingen beide over het programmeren op GPU, het zogenaamde GPGPU programmeren, wat rond die tijd nog in zijn kinderschoenen stond. Een doctoraat rond hetzelfde onderwerp was dan ook een logische stap. In 2013 begon Wiebe aan zijn doctoraat onder professor Joost Vennekens. Zijn interesses evolueerde dan van zuiver GPU programmeren naar het inzetten van GPU’s in de artificiële intelligentie. Later tijdens zijn doctoraat werkte hij dan ook vaker aan problemen binnen de computer visie en deep learning onder toezicht van Toon Goedemé. Wiebe haalde zijn doctoraat in April 2019. Momenteel is Wiebe actief als post doctoraal onderzoeker aan de EAVISE onderzoeksgroep binnen de KU Leuven.
Toon Goedemé
Toon Goedemé (°1979) studeerde elektrotechniek aan de KU Leuven en promoveerde er in december 2006 op topologische navigatie, onder begeleiding van prof. Luc Van Gool en Tinne Tuytelaars. Nadien begon hij les te geven aan de hogeschool De Nayer in Sint-Katelijne-Waver, waar hij in 2008 zijn onderzoeksgroep EAVISE (Embedded and Artificially Intelligent Vision Engineering) oprichtte. Tegenwoordig is zijn groep geïntegreerd in de KU Leuven, en bestaat uit ongeveer 20 onderzoekers, die een cruciale rol spelen bij de overdracht van computervisie-knowhow van academisch onderzoek naar de industrie. Vanaf 2010 is hij verbonden hoogleraar en vanaf 2014 hoogleraar aan de KU Leuven. Hij is (co-) auteur van meer dan 200 internationale publicaties en was projectleider van meer dan 70 industrieel gecofinancierde onderzoeksprojecten. Samen met zijn team won hij verschillende prijzen, zoals de best paper award op de Embedded Vision Workshop CVPR 2015, de beste demo-prijs op BNAIC 2015, de best paper award op CGVCVIP 2016 en de Willy Asselman Award voor onderzoeksresultaten in 2016. Vanaf 2016, is Toon Goedemé associate editor van het wetenschappelijk vaktijdschrift IET: Computer Vision.
shownotes
https://twitter.com/EAVISE_KULEUVEN
https://www.linkedin.com/company/27138600
https://www.facebook.com/eavise
https://arxiv.org/abs/1904.08653