Wat is black box AI?

Black box AI verwijst naar de situatie waarin het onduidelijk is hoe een AI-model tot bepaalde beslissingen of acties komt. Je ziet de input en de output, maar wat daartussen plaatsvindt is onzichtbaar voor gebruikers of zelfs ontwikkelaars. Neem bijvoorbeeld een model als ChatGPT. Dit is getraind op enorme hoeveelheden data, waardoor het vrijwel onmogelijk is te achterhalen welke specifieke data of patronen het model gebruikt om tot een bepaald antwoord te komen.

In dit artikel leggen we uit hoe black box AI werkt en waarom dergelijke modellen vaak worden ingezet.

Hoe werkt black box AI?

Veel moderne AI-modellen maken gebruik van deep learning, een vorm van kunstmatige intelligentie waarbij het model zelfstandig leert van data. Bij deze deep learning modellen krijgen we te maken met black box AI.

Deep learning-modellen bestaan uit meerdere lagen van kunstmatige neuronen die patronen en verbanden in data herkennen. Deze complexe netwerken voeren miljoenen berekeningen uit, verspreid over talloze lagen. Door deze complexheid is het niet mogelijk om precies te herleiden waarom het model tot een bepaalde beslissing komt. Dit proces vindt plaats in wat we de “zwarte doos” noemen.

Welke AI-modellen zijn black box AI?

Er zijn een aantal bekende tools en grote Large Language Modellen die als black box worden beschouwd. Een bekend voorbeeld is GPT-4 en GPT-3 van OpenAI. Bij deze modellen weet je welke input je geeft en welke output je ontvangt, maar de exacte redenering achter het antwoord blijft verborgen.

Waarom worden black box AI modellen gebruikt?

Bij deze methodiek van het gebruiken van AI zijn er verschillende voordelen:

• Hogere nauwkeurigheid

Dankzij deep learning zijn black box AI-modellen in staat om grote hoeveelheden complexe data te verwerken en analyseren. Op basis van die data kan het model voorspellingen doen of beslissingen nemen met een hoge mate van nauwkeurigheid. Hierdoor werken volgens Stephanie Pulford, head of data bij ON, black box modellen vaak beter dan andere modellen. Hier komen we verder in dit artikel op terug.

• Goed in probleemoplossing

Omdat black box modellen informatie niet op dezelfde manier verwerken als mensen, kunnen ze effectief zijn in het oplossen van problemen op nieuwe manieren. Ze gebruiken complexe algoritmen om verbanden en relaties tussen grote hoeveelheden data te identificeren om nieuwe oplossingen te bedenken. Oplossingen die misschien nog nooit eerder zijn overwogen.

• Maakt het moeilijker om producten na te maken

Het gebruik van black box AI-modellen kan ontwikkelaars helpen hun intellectuele eigendom te beschermen door de details van hun algoritmen en trainingsdata te verhullen. Dit maakt het voor concurrenten moeilijker om hun producten na te maken.

Toch brengt deze ondoorzichtigheid ook risico’s met zich mee, zoals moeilijk te ontdekken fouten of bias.

Het tegenovergestelde van black box AI

Het tegenovergestelde van black box AI is ‘explainable AI’ of ‘white box AI’. Hierbij is het besluitvormingsproces wel transparant en herleidbaar: je kunt precies zien welke factoren invloed hadden op de uitkomst. Zulke modellen zijn vaak beter geschikt voor toepassingen waar uitlegbaarheid en controle essentieel zijn, zoals in de zorg, rechtspraak of financiële sector. White box AI is echter vaak minder krachtig bij extreem complexe vraagstukken. Daarom worden bij krachtige generatieve AI’s meestal black box modellen gebruikt.

Afhankelijk van het doel van je chatbot, kan het nodig zijn om gebruik te maken van geavanceerde AI-technologieën zoals black box-modellen. Door zorgvuldig te selecteren welke data wordt gebruikt en hoe het model wordt getraind, kunnen de risico’s van black box AI echter worden beperkt. Zo zorgen we bij Vesqia voor eerlijke, betrouwbare en ethisch verantwoorde AI-systemen.