Agoria zal nieuwe Europese ethische richtlijnen uittesten

De Europese Commissie heeft nieuwe richtlijnen rond artificiële intelligentie bekendgemaakt. Technologiefederatie Agoria heeft samen met een 15-tal Belgische bedrijven die richtlijnen mee vorm gegeven en zal bedrijven voortaan ondersteunen in de toepassing ervan. Agoria geeft ook een positief gevolg aan de oproep van de Europese commissie om de richtlijnen in detail uit te testen.

De Europese AI-richtlijnen zijn het resultaat van sterke interactie met industrie en bedrijven. Agoria heeft samen met een 15-tal leden verschillende amendementen en suggesties gedaan. Zo werd ons voorstel inzake de noodzaak van een AI context ondersteund door talrijke andere organisaties en opgenomen in de richtlijnen van de Europese Commissie.

De commissie wil de richtlijnen testen aan zijn praktische haalbaarheid en doet een oproep om – vanaf de zomer – de richtlijnen in de diepte te testen. Agoria gaat hier graag op in en zal in de komende maanden samen met lidbedrijven testen of dit document toepasbaar is bij het ontwikkelen en vermarkten van AI-systemen en producen. Door input te geven hopen we te komen tot een document wat door de industrie bruikbaar is om betrouwbare AI systemen te bouwen, die een meerwaarde kunnen betekenen voor onze maatschappij.

De impact die artificiële intelligentie kan hebben op de maatschappij en economie, is enorm. Agoria ondersteunt de visie van de Europese Commissie dat betrouwbare AI bestaat uit 3 componenten: wettelijke conformiteit, robuustheid en ethiek. Om deze componenten te visualiseren gebruiken we het voorbeeld van een AI applicatie die artsen ondersteunt bij diagnoses. Met wettelijke conformiteit bedoelt men dat er reeds een heel aantal wetten en regelgevingen bestaan. AIle systemen moeten, net zoals andere applicaties en software, conform zijn aan de regels.

Voor een medische app zou dit de verordening betreffende medische hulpmiddelen kunnen zijn. Robuustheid reflecteert de nood van individuen en maatschappij om deze AI-systemen met vertrouwen te kunnen gebruiken zonder dat ze (ongewenst) kwaad doen. Dit op een technisch en sociaal niveau. De medische app moet van voldoende kwaliteit zijn, zodat de juiste interventies voorgesteld worden. Ethiek reflecteert de nood dat het AI-systeem voldoet aan de ethische normen en waarden van onze samenleving. De app mag bijvoorbeeld geen bepaalde bevolkingsgroep uitsluiten.

Wanneer over de betrouwbaarheid of ethiek van AI-systemen gesproken wordt, zal altijd moeten overwogen worden in welke context het AI-systeem gebruikt zal worden. Verschillende contexten hebben verschillende vereisten. De betrouwbaarheid van de medische app is veel kritischer dan van een AI systeem dat voorstelt welke muziek je leuk zou kunnen vinden. Verder is ethiek niet de enige component, ook de wettelijke conformiteit en robuustheid spelen een zeer belangrijke rol in het komen tot betrouwbare AI-systemen.

Nieuwsbericht van Agoria, 09/04/2019

Feel free to share