Binnenkant oog verraadt geslacht, tenminste voor AI

Britse onderzoekers zijn er via artificiële intelligentie in geslaagd om het geslacht van mensen te achterhalen op basis van foto’s van de binnenkant van hun ogen. Voor ons niet zo bijster nuttig – ook niet voor de medische wetenschap trouwens, zeggen ze zelf – maar het is wel een boeiende case in AI omdat specialisten het zelf niet kunnen en ook niet kunnen zeggen hoe het neuraal netwerk het doet.

De binnenkant van het oog is wat in de medische wetenschap de retinale fundus genoemd wordt. Al sinds de komst van instrumenten om die fundus te bekijken – wat teruggaat tot het midden van de negentiende eeuw – weten specialisten dat heel wat menselijke kwalen hun sporen nalaten op dat weefsel en zo dus herkend kunnen worden. Dat zou komen omdat de fundus een van de weinige plaatsen is waar medici zonder verdere ingreep zowel neuraal als vasculair weefsel kunnen zien.

Die uitleg gaat ons petje eerlijk gezegd ver te boven maar waar het ons om te doen is, is dat die wetenschappers niet wisten, en nog steeds niet weten, dat je in het weefsel ook kan zien welk geslacht de patiënt heeft. Specialisten hebben geen idee waar ze op zouden kunnen letten om dat te achterhalen.

En dat is dus wat een neuraal netwerk nu wel blijkt te kunnen. In een experiment waarin een neuraal netwerk getraind werd met 85.000 foto’s was de AI nadien in staat om met een nauwkeurigheid van 86% bij een nieuwe foto het geslacht van de persoon te voorspellen. En dat is uiteraard voldoende significant om van een opmerkelijk resultaat te kunnen spreken.

Het interessante aan het experiment is dat er gewerkt werd met een zogenaamd code free deep learning (CFDL) model. Dat wil zeggen dat er bij het trainen van het model geen enkele input was van specialisten over de aspecten waarnaar gekeken moest worden.

Dit staat in schril contrast tot de meeste toepassingen van artificiële intelligentie waarin de input van specialisten wel degelijk het verschil maakt. Daarom ook dat er zo vaak cynische grapjes over AI gemaakt worden. Gebruikers van AI presenteren hun oplossingen vaak als een deus ex machina maar in de praktijk zijn het vaak klassieke algoritmes die als filters in de AI gebruikt worden, die de doeltreffendheid van het system bepalen. De selectie van die filters wordt gedaan door mensen die de materie kennen en die daardoor kunnen aangeven waar de AI naar moet kijken. Het neuraal netwerk doet dan eigenlijk niet veel meer dan een lineaire regressie wat neerkomt om het toewijzen van gewichten aan de verschillende filters die gebruikt worden.

Maar dat is dus niet het geval in deze case, waar het neuraal netwerk de pure pixels als input gekregen heeft en verder zelf zijn plan heeft moeten trekken. Sterker nog, de specialisten hebben geen idee hoe het neuraal netwerk de klus klaart en kunnen dat ook niet achterhalen.

Voor het neuraal netwerk in dit verhaal is dat zowel goed als slecht nieuws want aan de ene kant geeft het aan dat artificiële intelligentie in staat zou kunnen zijn om via patroonherkenning tal van andere uitdagingen aan te gaan waar we met klassieke algoritmes niet meteen een oplossing voor hebben. In deze case herkent het netwerk zelfs een patroon waarvan niemand vermoedde dat het er is. Aan de andere kant stelt zich de vraag hoeveel vertrouwen men kan stellen in een systeem waarvan niemand begrijpt wat het eigenlijk doet. Het probleem is dan immers dat men ook niet weet welke de grenzen zijn van het systeem waarop de werking misschien niet langer betrouwbaar is. Dat zou bijvoorbeeld het gevolg kunnen zijn van een zekere bias in de data waarmee het systeem getraind werd.

En dat hebben ook de onderzoekers in dit experiment moeten vaststellen want bij een specifieke dataset van mensen met een foveale pathologie daalde de nauwkeurigheid van de geslachtsvoorspelling tot 69%.

Toch wordt het onderzoek beschouwd als een belangrijke stap in machine learning omdat het de potentie aantoont van automatisch gegenereerde neurale netwerken, wat niet alleen nieuwe toepassingen mogelijk kan maken maar ook een stimulans kan zijn in de verdere democratisering van artificiële intelligentie.

www.nature.com/articles/s41598-021-89743-x#Sec9

© Productivity.be, 07/12/2022


Feel free to share

Newsletter

Agenda

14/03 - 16/03: Embedded World, Nürnberg

22/03 - 23/03: M+R, Antwerp Expo (B)

29/03 - 31/03: Machineering, Brussels Expo (B)

07/06 - 08/06: Vision, Robotics & Motion, Brabanthallen, 's-Hertogenbosch

18/09 - 23/09: EMO, Hannover (D)

15/04/24 - 19/04/24: Wire/Tube, Düsseldorf (D)

08/10/25 - 15/10/25: K, Düsseldorf (D)