Aflevering S03e01 - Geertrui Mieke De Ketelaere - Over Natuurlijke En Artificiële Intelligentie

Over artificiële en natuurlijke intelligentie De eerste gast van het derde seizoen van Radio Raccoons is niemand minder dan Geertrui Mieke De Ketelaere: AI director bij imec, ICT vrouw van het jaar 2018, keynote speaker, en auteur van Mens versus Machine. Het gesprek ging over artificiële intelligentie (AI), maar ook over intelligentie in het algemeen; de gevaren en mogelijkheden van AI; welke rol AI in de toekomst zal spelen en de invloed die België en Europa hierin kan uitoefenen. Van 1994 tot nu Het donkere kamertje Mieke kan claimen dat ze al langer bezig is met artificiële intelligentie, al van "voor het cool was". Al in 1994 schreef ze haar thesis over neurale netwerken. Internet kwam toen net op en genereerde veel interesse, dus het was niet vanzelfsprekend om verder te gaan in die expertise. Toch koos ze voor neurale netwerken omdat dat aansloot bij een ander interesseveld: het menselijk brein. Als kind was ze al geïnteresseerd in hoe haar eigen brein werkte en hoe ze dat sneller kon laten werken. Al haar passies kwamen dus samen op het moment dat ze koos voor dat eindwerk. Sinds ze haar thesis schreef, zijn een aantal zaken ernstig veranderd: "In 1995 lag niemand wakker van neurale netwerken. Het was een academische discipline die in een donker kamertje van de universiteit gedaan werd. Daar was niemand echt mee bezig. Het internet kwam toen ook net op, en als we één email om de drie dagen ontvingen, was dat al fantastisch." In die tijd gingen investeerders ook meer in de richting van het internet. Die acceleratie in de ontwikkeling van het internet zorgde enerzijds voor veel digitale data, en anderzijds ook voor de verbetering van de nodige hardware. Stroomversnelling Er zijn verschillende redenen voor de stroomversnelling van artificiële intelligentie. De discipline is ontstaan vanuit een passie om menselijke intelligentie na te bouwen. Als dat lukt voor zaken zoals beeld, geluid, en spraakherkenning, wat dus eigenlijk sterk aanleunt bij menselijke intelligentie, dan toont iedereen interesse. Als je AI dingen laat doen die typisch door de mens worden gedaan, dan wil men daar sterk op inzetten. Wat vaak niet door de buitenwereld wordt gezien, is dat hoe groter je computer wordt, hoe accurater je systeem kan worden. "Accuraatheid is nu net dat punt waarop investeerders kicken. Als je een heel accuraat systeem kan bouwen, heb je de strijd gewonnen," volgens Mieke. "Teams die aan grotere systemen kunnen geraken, kregen meer investeerders, konden vervolgens met dat geld betere systemen bouwen en zo kwamen ze opnieuw aan meer investeringen. Zo krijg je een spiraalontwikkeling waarbij accurate systemen een algemene KPI werd. Pas recent is daar energieverbruik bij gekomen." Periode van nuchterheid Toch is een keerpunt gekomen in dat succesverhaal. We zijn in een periode van nuchterheid gekomen, waar veel tegenwind en kritiek komt op het vlak van AI. Onze gastheer gaat daar niet mee akkoord en vindt dat we enorm vooruit gegaan zijn op vlak van bijvoorbeeld computer vision. Hij haalt deze cartoon aan. In plaats van enkele jaren wachten, kan je nu een app downloaden die voor jou vogels kan herkennen. Volgens Deevid is er dus toch een reële vooruitgang. Volgens Mieke staat en valt het echter met de definitie die je aan AI geeft: "Bij bepaalde subdomeinen is er veel vooruitgang geboekt, maar als je dat vergelijkt met de algemene intelligentie van de mens, dan kan AI in vergelijking nog weinig. Er zit spanning tussen mensen die zeggen dat AI alles kan en mensen die zeggen dat het niks kan." Volgens Mieke moet er dus een definitie zijn van AI. Ze vergelijkt het met de geneeskunde. Als wij onze tibia breken, begrijpt iedere dokter dat, want die definitie is overal dezelfde. Bij AI is dat niet het geval. Er is geen common language, waardoor die spraakverwarring ontstaat tussen hoe ver we al dan niet staan. Brain chauvinisme We hebben de neiging om intelligentie steeds meer te herdefiniëren naarmate computers beter worden in bepaalde zaken. Schaken was vroeger het summum van intelligentie: een goed schaker is intelligent. Tot computers daar goed in werden - toen werd schaken maar een spel.  "Intelligentie groeit continu. Dat domein groeit en beweegt." Human chauvinisme, of brein chauvinisme, is denken als homo academicus dat wij de meest intelligente wezens zijn. Mieke heeft daar haar bedenkingen bij. We moeten zoeken naar vormen van intelligentie die niet menselijk zijn om ons te verrijken. Communicatie met planten Door de coronacrisis werd Mieke getriggerd door intelligentie in de natuur. Tijdens haar "corona-wandelingen" zag ze vormen van intelligentie die niet menselijk zijn: dieren die in zwermen vliegen, schimmels (die zelfs metronetwerken kunnen nabootsen: zie hier), planten die communiceren via geuren. "Waarom nemen wij onze menselijke intelligentie als bron om artificiële intelligentie na te bouwen?" We moeten volgens haar de maatstaf van intelligentie verbreden, ook buiten de menselijke definities die we eraan zouden geven. Mieke's interesse gaat momenteel uit naar communicatie tussen planten door middel van geuren. Bijvoorbeeld de geur van jasmijn gebruiken planten om te communiceren dat ze een defensieve modus aannemen, ze signaleren dat er gevaar dreigt. Mensen zijn zich daar niet van bewust. Bijvoorbeeld Chanel nr. 5 bevat deze geur, en overal waar die geur hangt, gaan planten in defensie. Zo zijn er een aantal geuren die voor ons ongekend zijn, maar die in de natuur gebruikt worden als communicatiemiddel. Als we naar zulke vormen van intelligentie kijken, kunnen we zien waar we in de fout gaan. Dan kunnen we kijken naar de ecologische balans, die momenteel helemaal kwijt is. "De natuur was in staat om zichzelf te balanceren en dat heeft de mens verpest." Palmares en kritiek Palmares "Algemeen is de wetenschap en de mens altijd op zoek naar onzekerheden wegnemen. Vaak moeten we met ons buikgevoel werken omdat we de kennis niet hebben en dat maakt ons onrustig. Nu kan AI sneller kanker kan detecteren en dat neemt een bepaalde vorm van onzekerheid weg. Dat kan ons helpen om sneller acties ondernemen om te blijven leven," vertelt Mieke. Dat zijn volgens Mieke mooie voorbeelden waar technologie zijn doel heeft verwezenlijkt. Als we dat ook kunnen doen om onze pandemie te verminderen, of onze atmosfeer te verbeteren, dan gebruiken we AI op een goede manier. "Andere toepassingen tonen misschien hoe sterk de discipline is, maar om eerlijk te zijn, moeten we AI gebruiken om de mens te verrijken met informatie die we anders niet hadden gezien omdat de inzichten te complex zijn." Ecologische kritiek We zien de schaal van de systemen de pan uit swingen (bijvoorbeeld GPT3 is momenteel de grootste vervuiler). Als die modellen maar een paar maanden meegaan in de huidige snelheid van het landschap, en we moeten daar 50.000 CPU cores voor gebruiken, wat is daar dan de ecologische voetafdruk van? Mieke bekijkt het zo: "Het is niet abnormaal dat techneuten te enthousiast zijn over een bepaalde technologie. Bij de opkomst van de wagen was dat ook zo. De eerste wagens waren ook extreem energievervuilend. Dat betekent niet dat je ze moet elimineren, maar net zuiniger moet maken. Nu is er een soort bewijsdrang op het vlak van AI: groter, groter, grootst. Dat spel moet gestopt worden." Je moet dezelfde accuraatheid krijgen door de zaken slimmer aan te pakken. Enerzijds aan kant van hardware: die was initieel niet bedoeld voor AI, en daar moeten we oplossingen voor vinden. Anderzijds moeten we ook werken aan de kant van algoritmes. Bij het menselijk brein zie je dat we ons energieverbruik minimaliseren van nature uit. Als we een bepaalde taak kunnen, kunnen we die kennis overzetten en bijschaven voor een nieuwe taak. Voor een neuraal netwerk geldt dat ook, we moeten niet steeds van nul beginnen. Volgens Mieke kan je energieverbruik opsplitsen in twee delen: - Tijdens het trainen. Ook al is het eenmalig, er hangt wel een groot energieverbruik aan vast. - We mogen ook niet vergeten dat iedere keer dat een IoT wordt geïnstalleerd, en een beslissing wordt gevraagd, dat er ook energieverbruik aan te pas komt. Ook bij de datatransfer komt er energie aan te pas. "Die kleine beetjes zijn het toekomstige plastic. Een flesje op zich is niet zo erg, maar die veel flesjes hebben ervoor gezorgd dat de situatie nu zo is. Dat geldt ook voor IoT en AI. Op zich heeft dat standalone systeempje geen bijdrage, maar als het steeds groeit, dan wordt het belangrijker."  Edge computing als antwoord We moeten ook naar een gedecentraliseerde aanpak kijken volgens Mieke. We moeten afstappen van die collectieve gegevens op het eindpunt opnieuw te sturen naar een centrale plaats, om dan opnieuw terug te verzenden naar het eindpunt. Dat heeft nadelen op veel verschillende vlakken: - Energie inefficiëntie - Latency: de traagheid waarmee een beslissing kan genomen worden. Een autonome wagen heeft geen tijd om te wachten op een antwoord - Privacy: bijvoorbeeld in ziekenhuizen zou je de data beter op het machine zelf verwerken om privacy te garanderen - Security: als data heen en weer moet gaan naar een centrale vorm, dan krijg je security issues. Dat is een vorm van vulnerability "Daarvoor alleen al is edge computing een mooi alternatief," volgens Mieke. Mens versus Machine (koop het boek hier) Initieel zou Mieke haar boek over 'dieren in de corporate wereld' schrijven, maar haar uitgever adviseerde om eerst een boek over AI te schrijven. Mieke vroeg toen twee weken bedenktijd en bekeek hoe beleidsmakers en de bedrijfswereld over AI spreken en ze zag dat de vertaalslag volledig verloren ging tussen de techneut die de systemen maakt en de mensen die de systemen inzetten. Gedurende die twee weken zag ze veel voorbeelden van misvattingen, waardoor ze getriggerd werd om het boek te schrijven. Ze legt in mensentaal uit wat de componenten van AI zijn en reikt de hand om een multidisciplinair debat op te zetten tussen techneuten, beleidsmakers, sociologen, klanten, psychologen en business, want dat is wat er te vaak ontbreekt. "Iedereen werkt in zijn silo en maakt daarbij beslissingen of wetgevende kaders die niet helemaal kloppen, en dat is gevaarlijk." Nood aan vertaling Fun fact: Mieke's boek heet 'Human-AI translators' in het Engels, aangezien er al vier boeken bestaan met de titel 'Human versus Machine'. Het begrijpen van de nuances van AI is heel belangrijk. AI, volgens de definitie, is het wiskundig algoritme. Ondertussen zijn we die term anders gaan gebruiken. Wat de eindgebruiker (business en consumers) ziet is het eindproduct (vb. smart device in huis), en niet het algoritme. Het is een verborgen technologie. Bij elke andere technologie hebben we bovendien tijd genomen om ze te introduceren in de markt. We gaven er een begeleiding bij, maar bij AI is dat niet gebeurd. We werden er simpelweg mee geconfronteerd. "Vroeger was technologie voor techneuten, nu is technologie voor iedereen." Veel mensen zijn zich niet bewust van wat zich afspeelt in een app, maar weten wel hoe ze het moeten gebruiken. Mieke verklaart: "Niet iedereen moet expert zijn, maar neem nu het voorbeeld van een microgolf. We weten hoe we het moeten gebruiken, maar we kennen de fysica erachter niet. We moeten wel weten hoe het werkt om de risico's te kennen. Bij AI is dat net hetzelfde: er moet een bewustwording komen van hoe het werkt en wat het doet." imec's rol in het AI-landschap Volgens Mieke kan imec het verschil maken in het bredere AI-landschap omdat het bedrijf bestaat uit veel disciplines: van de ethische discipline tot hardware producten die nodig zijn om nieuwe chips te maken. Op die manier kunnen ze het debat voeren vanuit een co-optimalisatieprincipe. imec is een researchbedrijf waar ze bewust nadenken over de toekomst, Mieke noemt het haar "AI disneyland". imec werkt aan drie AI-componenten: - Hardware. Ze werken proactief aan nieuwe vormen van chips die energie-efficiënter zijn. Dat sluit dicht aan bij de werking van het menselijke brein. Dat is vaak heel fundamentele en technische research die trager gaat. - Optimalisatie van algoritmes doorvoeren (vb. transfer learning). Ze denken ook na over dingen die op dit moment ontbreken, bijvoorbeeld sensor fusion technieken. - Legal. Teams die aan de wetgeving meewerken in Europa. Maar ook mensen die zich bezighouden met de ethische kant van AI, dat is de explainability kant, zowel technisch als niet-technisch. Explainability AI is in staat beslissingen te maken zonder regels daarvoor geprogrammeerd te krijgen. AI kan uit ervaring leren om zaken te beslissen. Zoals wij niet exact kunnen zeggen hoe ons brein beslissingen neemt, kunnen we dat ook niet voor neurale netwerken. Het is een soort zwarte doos, een blackbox. Ondertussen zijn er technieken ontstaan die die doos wel een beetje kunnen opendoen. Neem het voorbeeld van een verzekering. Wanneer zij een wagen met schade laten analyseren, kan het AI-model onderdelen highlighten waar de schade zich bevindt. Ook bij kankeropsporing is dat zo: bepaalde delen van het beeld worden gehighlight waar het AI-model abnormaliteiten ziet. Die technieken worden verder ontwikkeld en moeten volgens Mieke de vertaalslag naar buitenwereld vinden. Volgens Mieke is dat belangrijk omdat er enerzijds al veel investeringen zijn gedaan op het vlak van AI. Dat is een typisch gevolg van een hype. Anderzijds zie je dat de adoptiegraad stagneert. Slechts 17% van de bedrijven incorporeert AI in hun processen na de PPP fase. PPP staat voor pilot, POC en prototype. Aan dat niveau geraken veel meer bedrijven, maar het blijkt toch moeilijk om het verder dan dat te krijgen en effectief te incorporeren in processen. De verklaring daarvoor is dat bedrijven vaak niet voldoende uitleg krijgen. Mieke haalt het volgende voorbeeld van een bank aan. Als een klant een lening aanvraagt, die uiteindelijk niet wordt toegekend, is het niet voldoende om 'computer says no' te zeggen. Je moet de reden kunnen uitleggen. Explainability is in alle sectoren belangrijk om die adoptiegraad te verhogen en het gevoel van angst weg te nemen. Mensen moeten het zien als een machine die inzichten geeft die mensen niet met het blote oog kunnen zien. Bias Volgens Mieke is bias is een probleem bij systemen die beslissingen maken op mensen. In industriële context is dat minder een probleem. "Het feit dat je data gebruikt om systemen te trainen, geeft bias. AI heeft bias, maar ook mensen hebben dat probleem. Een kind vanaf 6 jaar begint biased te worden," zegt Mieke. Als je dan kijkt naar het hiring schandaal van Amazon (zie hier), dan zie je dat het AI-systeem heeft geleerd van de menselijke recruiters. "Als je dat probleem wil oplossen, moet je bij de mens beginnen en ervoor zorgen dat de mens minder biased is. Ik ben blij dat AI er is, want die bias komt nu duidelijker naar voor, het is nu meetbaar geworden."  "Vaak wordt AI ingezet voor dull, dangerous and dirty tasks. Maar wat is er nu dull, dangerous and dirty aan mensen selecteren? Dat is niet de plaats om die systemen end-to-end te integreren. Je kan beter een AI-systeem inzetten in een HR-context bij preventie van stress, in plaats van in de acquisitie van nieuwe kandidaten." Wereldspelers China en VS, maar wat met België of Europa? Kunnen we überhaupt nog iets betekenen in een wereld waar China en VS het AI-veld domineren? Kan Europa nog een rol spelen? Volgens Mieke heb je altijd een keuze. Als je niks doet, dan verandert er niks. Of je kan net wel iets doen. We gaan naar gedecentraliseerde systemen, waar we niet meer de nood hebben voor grote, zware structureren en platformen. Technisch gezien, als we daar de juiste keuzes maken en inzetten op een gedecentraliseerde aanpak, dan kunnen we wel degelijk een verschil maken. Daarnaast zie je dat we met bijvoorbeeld GDPR een voorloper waren in Europa, en dat er nu gekopieerd wordt in Amerika. Ook het kader rond bewustwording dat geschept wordt op ethisch vlak door Europa, daar zullen we kennis creëren die ons zal onderscheiden van anderen, volgens Mieke. Om deze shownotes af te sluiten: "Het is niet omdat iets technisch kan, dat we het technisch moeten doen. Er moet een balans zijn."  https://www.youtube.com/watch?v=HWO75LZtvqE