Mens versus machine: artificiële intelligentie ontrafeld
Geertrui Mieke De Ketelaere is de leading lady van de AI-wereld. Ze noemt zichzelf een ‘ingenieur met een hoek af’. Met ‘Mens versus machine: artificiële intelligentie ontrafeld’ schreef ze een succesvol boek over artificiële intelligentie (AI). Niet mét AI, want dat wilde ze niet. “Het is mijn missie om aan te tonen wat AI kan en wat de limieten zijn.”
Geertrui Mieke De Ketelaere is de leading lady van de AI-wereld. Ze noemt zichzelf een ‘ingenieur met een hoek af’. Met ‘Mens versus machine: artificiële intelligentie ontrafeld’ schreef ze een succesvol boek over artificiële intelligentie (AI). Niet mét AI, want dat wilde ze niet. “Het is mijn missie om aan te tonen wat AI kan en wat de limieten zijn.”
Wat is volgens u de grootste realisatie van AI?
Geertrui Mieke De Ketelaere : “AI kan het verlengde zijn van het menselijk brein. De natuur heeft nog zoveel geheimen. AI kan ons helpen die te ontsluieren. Om een speels voorbeeld te geven: toon AI een foto van een retina en het zegt je of die van een man of vrouw is. De beste oogarts ter wereld kan dat niet. AI is dus in staat om bepaalde onzekerheden in onze wereld weg te nemen.”
Wat zijn de grote uitdagingen van AI vandaag?
“Het kader ontbreekt. Vergelijk het met de auto in de jaren vijftig. Die was niet energie-efficiënt. De veiligheid liet te wensen over. Toch deden we de auto niet in de ban. We zijn de technologie gaan verbeteren en we voerden regels in. We werkten aan de motor, verplichtten de gordel en introduceerden het rijbewijs.”
“AI is net als de auto een middel naar vrijheid, maar er zijn ernstige werkpunten. Het is niet energie-efficiënt en het sluit mensen uit op basis van geslacht of etniciteit, omdat het onze vooringenomenheid kopieert.”
“AI moet zijn plaats in de nieuwe economie krijgen, in het discours van duurzaamheid en rekening houdend met de rechten van de mens. Het moet de verworvenheden van de sociale maatschappij vertolken waar we zo hard voor streden. Daar ligt de grootste uitdaging.”
Wat is volgens u de grootste realisatie van AI?
Geertrui Mieke De Ketelaere : “AI kan het verlengde zijn van het menselijk brein. De natuur heeft nog zoveel geheimen. AI kan ons helpen die te ontsluieren. Om een speels voorbeeld te geven: toon AI een foto van een retina en het zegt je of die van een man of vrouw is. De beste oogarts ter wereld kan dat niet. AI is dus in staat om bepaalde onzekerheden in onze wereld weg te nemen.”
Wat zijn de grote uitdagingen van AI vandaag?
“Het kader ontbreekt. Vergelijk het met de auto in de jaren vijftig. Die was niet energie-efficiënt. De veiligheid liet te wensen over. Toch deden we de auto niet in de ban. We zijn de technologie gaan verbeteren en we voerden regels in. We werkten aan de motor, verplichtten de gordel en introduceerden het rijbewijs.”
“AI is net als de auto een middel naar vrijheid, maar er zijn ernstige werkpunten. Het is niet energie-efficiënt en het sluit mensen uit op basis van geslacht of etniciteit, omdat het onze vooringenomenheid kopieert.”
“AI moet zijn plaats in de nieuwe economie krijgen, in het discours van duurzaamheid en rekening houdend met de rechten van de mens. Het moet de verworvenheden van de sociale maatschappij vertolken waar we zo hard voor streden. Daar ligt de grootste uitdaging.”
Hebt u het boek geschreven om die uitdagingen aan te pakken?
“Ik wilde met het boek graag een evenwicht vinden in het debat tussen de evangelisten en de criticasters. AI is een tool die ons leven kan vergemakkelijken en onzekerheden wegnemen. Het is geen geloof. Het komt niet uit de natuur, we hebben het zelf gemaakt. We kunnen het controleren, maar we moeten wel afspreken waar we naartoe willen.”
“De meeste mensen liggen niet wakker van AI. Ik wil hen graag wijzen op de alomtegenwoordigheid van AI. Het is een verborgen technologie die in onze devices zit. Toen de eerste auto’s botsten, zagen mensen met eigen ogen de noodzaak van regelgeving. AI is onzichtbaar, dus ik wil dat mensen zich door mijn boek van de impact bewust worden.”
In uw boek houdt u een pleidooi voor AI-vertalers in bedrijven en organisaties die klaarheid scheppen over AI. Wie zijn zij?
“Beschouw hen als de huisdokters van de AI. Generalisten die van alles op de hoogte zijn en doorverwijzen naar specialisten waar nodig. Helaas cultiveren we zulke profielen niet aan de universiteiten of in bedrijven, waar we in silo’s werken. De focus op specialisatie maakt dat we te weinig investeren in bruggenbouwers die sectoren en domeinen verbinden.”
“Iedereen die bij AI betrokken is, moet de wil tonen om zijn domein te vertalen. De techneuten focussen op de werking. De zakenmensen denken aan de waarde en de bijhorende winst. Legal houdt zich bezig met aansprakelijkheid. Men zou nederig zijn domein moeten overstijgen en ook samen nadenken over de sociale impact, de ethiek, het moreel kader. De AI-vertaler kan dit faciliteren.”
U spreekt over een ‘eedvan Hippocrates’ voor ontwikkelaars, zodat zij zich net als artsen houden aan een morele code.
“Ingenieurs zijn natuurlijk niet alleen verantwoordelijk voor AI, maar zij hebben een belangrijke rol. Een ingenieur wil bouwen zoals een arts wil opereren. Toch is het ook zijn plicht om kritisch na te denken. We zouden vaker moeten vertrekken vanuit het probleem dat we willen oplossen.”
“Neem Siri. ‘Can you switch on the lights?’ Als ingenieur geeft het me een kick dat ik met mijn stem het licht kan bedienen. Maar dat kost energie, want Siri moet niet enkel voortdurend in stand-by ‘luisteren’, maar heeft bijvoorbeeld ook energie nodig om via een spraakalgoritme mij mondelinge vraag te coderen in een actie. Het is soms zuiniger om het licht aan te laten gedurende een bepaalde tijd, of gewoon manueel de knop om te draaien. Mijn vriendin met MS is wel geholpen met dit systeem.”
“We moeten afstappen van het ‘toys for boys’-idee en AI inzetten waar het een verschil maakt. Ik gebruik bijvoorbeeld principieel Waze niet omdat het de complexiteit van de wereld niet vat. Het systeem houdt ondertussen rekening met schooluren, maar die vervallen tijdens examenperiodes. Dan stuurt Waze nog altijd auto’s langs de fietsende kinderen. Onverantwoord.”
Hebt u het boek geschreven om die uitdagingen aan te pakken?
“Ik wilde met het boek graag een evenwicht vinden in het debat tussen de evangelisten en de criticasters. AI is een tool die ons leven kan vergemakkelijken en onzekerheden wegnemen. Het is geen geloof. Het komt niet uit de natuur, we hebben het zelf gemaakt. We kunnen het controleren, maar we moeten wel afspreken waar we naartoe willen.”
“De meeste mensen liggen niet wakker van AI. Ik wil hen graag wijzen op de alomtegenwoordigheid van AI. Het is een verborgen technologie die in onze devices zit. Toen de eerste auto’s botsten, zagen mensen met eigen ogen de noodzaak van regelgeving. AI is onzichtbaar, dus ik wil dat mensen zich door mijn boek van de impact bewust worden.”
In uw boek houdt u een pleidooi voor AI-vertalers in bedrijven en organisaties die klaarheid scheppen over AI. Wie zijn zij?
“Beschouw hen als de huisdokters van de AI. Generalisten die van alles op de hoogte zijn en doorverwijzen naar specialisten waar nodig. Helaas cultiveren we zulke profielen niet aan de universiteiten of in bedrijven, waar we in silo’s werken. De focus op specialisatie maakt dat we te weinig investeren in bruggenbouwers die sectoren en domeinen verbinden.”
“Iedereen die bij AI betrokken is, moet de wil tonen om zijn domein te vertalen. De techneuten focussen op de werking. De zakenmensen denken aan de waarde en de bijhorende winst. Legal houdt zich bezig met aansprakelijkheid. Men zou nederig zijn domein moeten overstijgen en ook samen nadenken over de sociale impact, de ethiek, het moreel kader. De AI-vertaler kan dit faciliteren.”
U spreekt over een ‘eedvan Hippocrates’ voor ontwikkelaars, zodat zij zich net als artsen houden aan een morele code.
“Ingenieurs zijn natuurlijk niet alleen verantwoordelijk voor AI, maar zij hebben een belangrijke rol. Een ingenieur wil bouwen zoals een arts wil opereren. Toch is het ook zijn plicht om kritisch na te denken. We zouden vaker moeten vertrekken vanuit het probleem dat we willen oplossen.”
“Neem Siri. ‘Can you switch on the lights?’ Als ingenieur geeft het me een kick dat ik met mijn stem het licht kan bedienen. Maar dat kost energie, want Siri moet niet enkel voortdurend in stand-by ‘luisteren’, maar heeft bijvoorbeeld ook energie nodig om via een spraakalgoritme mij mondelinge vraag te coderen in een actie. Het is soms zuiniger om het licht aan te laten gedurende een bepaalde tijd, of gewoon manueel de knop om te draaien. Mijn vriendin met MS is wel geholpen met dit systeem.”
“We moeten afstappen van het ‘toys for boys’-idee en AI inzetten waar het een verschil maakt. Ik gebruik bijvoorbeeld principieel Waze niet omdat het de complexiteit van de wereld niet vat. Het systeem houdt ondertussen rekening met schooluren, maar die vervallen tijdens examenperiodes. Dan stuurt Waze nog altijd auto’s langs de fietsende kinderen. Onverantwoord.”
Wat heeft u persoonlijk aangetrokken tot AI?
“Mijn luiheid (lacht). Ik ging niet naar de les en kopieerde vaak cursussen. Dat duurde me te lang, dus ik bouwde een pneumatische arm die de klep opent en het blad omdraait. Ik heb langer aan de machine gewerkt dan het kopiëren zou geduurd hebben (lacht). Het vat de kern van mijn overtuiging samen: het doel van technologie is de mens meer vrijheid geven. Systemen die in staat zijn zelfstandig te leren, pasten helemaal in die filosofie.”
Tijdens corona raakte u teleurgesteld in AI, las ik in een interview in Trends.
“Ik raakte met mezelf in conflict. Net voor corona was mijn boek klaar, op het laatste hoofdstuk na. Dat zou een verslag worden van mijn bezoek aan de Consumer Electronics Show in Las Vegas, de beurs waar de beau monde van de techwereld de laatste snufjes toont. Ik gaf er zelf ook een presentatie, over gedecentraliseerde AI. In plaats van data over de oceanen te sturen, zoals Google of Facebook doen, willen we in Europa lokaal algoritmes activeren. Dat is energie-efficiënter, beter voor de privacy, sneller in het leveren van inzichten en het werkt ook op plaatsen met weinig connectiviteit.”
“Ik was superenthousiast over de impact op privacy en de energie-efficiëntie, maar ik kreeg alleen maar vragen over de snelheid en de connectiviteit. Met andere woorden: over hoe men nog meer geld kon verdienen door meer mensen sneller te bedienen. Onthutst stapte ik van het podium. Ik liep over de beurs en zag plots overal die klemtoon op profit, profit, profit. Waar waren people en planet gebleven? Toen ik in mijn hotelkamer mijn laatste hoofdstuk wilde schrijven, blokkeerde ik. Ik keerde met lege handen naar huis.”
Wat heeft u persoonlijk aangetrokken tot AI?
“Mijn luiheid (lacht). Ik ging niet naar de les en kopieerde vaak cursussen. Dat duurde me te lang, dus ik bouwde een pneumatische arm die de klep opent en het blad omdraait. Ik heb langer aan de machine gewerkt dan het kopiëren zou geduurd hebben (lacht). Het vat de kern van mijn overtuiging samen: het doel van technologie is de mens meer vrijheid geven. Systemen die in staat zijn zelfstandig te leren, pasten helemaal in die filosofie.”
Tijdens corona raakte u teleurgesteld in AI, las ik in een interview in Trends.
“Ik raakte met mezelf in conflict. Net voor corona was mijn boek klaar, op het laatste hoofdstuk na. Dat zou een verslag worden van mijn bezoek aan de Consumer Electronics Show in Las Vegas, de beurs waar de beau monde van de techwereld de laatste snufjes toont. Ik gaf er zelf ook een presentatie, over gedecentraliseerde AI. In plaats van data over de oceanen te sturen, zoals Google of Facebook doen, willen we in Europa lokaal algoritmes activeren. Dat is energie-efficiënter, beter voor de privacy, sneller in het leveren van inzichten en het werkt ook op plaatsen met weinig connectiviteit.”
“Ik was superenthousiast over de impact op privacy en de energie-efficiëntie, maar ik kreeg alleen maar vragen over de snelheid en de connectiviteit. Met andere woorden: over hoe men nog meer geld kon verdienen door meer mensen sneller te bedienen. Onthutst stapte ik van het podium. Ik liep over de beurs en zag plots overal die klemtoon op profit, profit, profit. Waar waren people en planet gebleven? Toen ik in mijn hotelkamer mijn laatste hoofdstuk wilde schrijven, blokkeerde ik. Ik keerde met lege handen naar huis.”
Toen kwam corona en veranderde de wereld.
“Ik dacht: oké, nu gaat AI zich bewijzen aan de wereld. Dankzij AI en de experten zijn we er op twee weken vanaf. Dat pakte anders uit. Het falen lag niet aan technologie of data, maar aan mensen en processen. Experts spraken elkaar tegen. Als zij het niet eens zijn, kan je geen AI-systeem trainen. Afspraken over het delen van data ontbraken.”
“We gingen in lockdown. Net als velen vluchtte ik de natuur in. Ik zag spreeuwen die sierlijk door de lucht zwermden en vroeg me af waarom wij er zelfs niet in slagen om twee drones niet te laten botsen in het labo. Ik ben me in de intelligentie van de natuur gaan verdiepen. Wetenschappers in die sector moeten vechten voor hun geld, terwijl wij in AI enorme budgetten krijgen voor breinonderzoek. We zijn zo chauvinistisch over ons eigen brein dat wij, übermenschen, de intelligentie van de natuur vergeten. Die schakel, over de andere vormen van intelligentie, ontbrak in mijn boek. Mijn laatste hoofdstuk is in de natuur gerijpt.”
Opvallend genoeg pleit u ook voor de ontwikkeling van softskills in het onderwijs. Dat contrasteert met de eeuwige focus op het STEM-discours (science, technology, engineering, mathematics).
“Ik merk dat communicatieve vaardigheden verdwijnen. Overleggen en luisteren vinden we te soft. Het voelt veiliger om met mensen samen te hokken die hetzelfde denken als jijzelf, maar dat brengt geen echte vooruitgang.”
Toen kwam corona en veranderde de wereld.
“Ik dacht: oké, nu gaat AI zich bewijzen aan de wereld. Dankzij AI en de experten zijn we er op twee weken vanaf. Dat pakte anders uit. Het falen lag niet aan technologie of data, maar aan mensen en processen. Experts spraken elkaar tegen. Als zij het niet eens zijn, kan je geen AI-systeem trainen. Afspraken over het delen van data ontbraken.”
“We gingen in lockdown. Net als velen vluchtte ik de natuur in. Ik zag spreeuwen die sierlijk door de lucht zwermden en vroeg me af waarom wij er zelfs niet in slagen om twee drones niet te laten botsen in het labo. Ik ben me in de intelligentie van de natuur gaan verdiepen. Wetenschappers in die sector moeten vechten voor hun geld, terwijl wij in AI enorme budgetten krijgen voor breinonderzoek. We zijn zo chauvinistisch over ons eigen brein dat wij, übermenschen, de intelligentie van de natuur vergeten. Die schakel, over de andere vormen van intelligentie, ontbrak in mijn boek. Mijn laatste hoofdstuk is in de natuur gerijpt.”
Opvallend genoeg pleit u ook voor de ontwikkeling van softskills in het onderwijs. Dat contrasteert met de eeuwige focus op het STEM-discours (science, technology, engineering, mathematics).
“Ik merk dat communicatieve vaardigheden verdwijnen. Overleggen en luisteren vinden we te soft. Het voelt veiliger om met mensen samen te hokken die hetzelfde denken als jijzelf, maar dat brengt geen echte vooruitgang.”
“Ik ben een ingenieur met een hoek af. Ik hou van filosoferen en denk graag na buiten mijn vakgebied. Helaas wordt debatteren en van mening verschillen te weinig gecultiveerd.”
Uw boek verscheen intussen in drie talen. AI-tools worden courant ingezet voor vertaalwerk. Toch gebruikte u die niet?
“Nee, dat wilde ik expliciet niet. Een van de vertaalbureaus waar ik een proefvertaling had gevraagd, had toch AI gebruikt. Ik zag het meteen. AI kent geen context en maakt dus fouten die wij als mens niet maken. Je voelt nog dat het artificieel is. Een lied of schilderij dat door AI is gemaakt kan heel funky of kunstig zijn. Maar het mist de menselijke ziel. Het heeft iets … unheimlichs. Het werpt ook interessante vragen op: wie heeft het eigendomsrecht, is kunst gemaakt door AI wel kunst, enzovoort. Dat fascineert me.”
“Ik ben gevraagd als curator voor het Festival van de Toekomst in 2024. We gaan tijdens het festival op zoek naar de beleving in de toekomst: hoe kijken we naar mode, welke rol heeft theater nog, en hoe zit het met onze zintuigelijke waarnemingen? Daar gaan bijzondere dingen uitkomen. Ik wil tonen wat kan, maar ik wil ook aantonen dat AI limieten heeft.”
“Ik ben een ingenieur met een hoek af. Ik hou van filosoferen en denk graag na buiten mijn vakgebied. Helaas wordt debatteren en van mening verschillen te weinig gecultiveerd.”
Uw boek verscheen intussen in drie talen. AI-tools worden courant ingezet voor vertaalwerk. Toch gebruikte u die niet?
“Nee, dat wilde ik expliciet niet. Een van de vertaalbureaus waar ik een proefvertaling had gevraagd, had toch AI gebruikt. Ik zag het meteen. AI kent geen context en maakt dus fouten die wij als mens niet maken. Je voelt nog dat het artificieel is. Een lied of schilderij dat door AI is gemaakt kan heel funky of kunstig zijn. Maar het mist de menselijke ziel. Het heeft iets … unheimlichs. Het werpt ook interessante vragen op: wie heeft het eigendomsrecht, is kunst gemaakt door AI wel kunst, enzovoort. Dat fascineert me.”
“Ik ben gevraagd als curator voor het Festival van de Toekomst in 2024. We gaan tijdens het festival op zoek naar de beleving in de toekomst: hoe kijken we naar mode, welke rol heeft theater nog, en hoe zit het met onze zintuigelijke waarnemingen? Daar gaan bijzondere dingen uitkomen. Ik wil tonen wat kan, maar ik wil ook aantonen dat AI limieten heeft.”
BIO
Geertrui Mieke De Ketelaere is directeur bij Imec (IDLab), waar ze mee vorm geeft aan de AI-strategie. Trends nomineerde De Ketelaere tot ICT-vrouw van het jaar 2018. Zij is ook adjunct-professor aan de Vlerick Business School. De afgelopen 25 jaar werkte ze bij multinationals als Microsoft, IBM en SAP rond data en analyse.
LEESTIP
'Wanted: Human-AI Translators' door Geertrui Mieke De Ketelaere, bij Pelckmans
BIO
Geertrui Mieke De Ketelaere is directeur bij Imec (IDLab), waar ze mee vorm geeft aan de AI-strategie. Trends nomineerde De Ketelaere tot ICT-vrouw van het jaar 2018. Zij is ook adjunct-professor aan de Vlerick Business School. De afgelopen 25 jaar werkte ze bij multinationals als Microsoft, IBM en SAP rond data en analyse.
LEESTIP
'Wanted: Human-AI Translators' door Geertrui Mieke De Ketelaere, bij Pelckmans