Hoe Deeploy uitlegbare AI (XAI) een centrale plaats geeft in MLOps

As artificial intelligence (AI) verweven raakt in elk aspect van ons leven en AI-bedrijven een stratosferische waarde bereiken, is er een cruciaal AI-probleem dat velen niet bespreken. Volgens Tim Kleinloog, mede-oprichter en CTO van Dieploy, is dat “het extreem moeilijk was en nog steeds is om AI succesvol in productie te krijgen.”

Hoewel er links, rechts en in het midden een nieuw AI-model lijkt te verschijnen, is er een probleem met die modellen dat minder wordt besproken. Kleinloog wijst erop dat er een algemeen probleem is met het vertrouwen in productie-AI-systemen. In 2020 sloeg Kleinloog de handen ineen met Maarten Stolk, Bastiaan van de Rakt en Nick Jetten om Deeploy mede op te richten als een startup dat een technische oplossing biedt voor de obstakels die het vertrouwen in AI in de weg staan.

Naast Kleinloog de leiding team bestaat uit Maarten Stolk (CEO), Sofia Karali (Hoofd Marketing), Markus Heid (Hoofd Operations), Robert Jan van Vugt (Hoofd Commercie) en Robbert van der Gugten (Hoofd Engineering). Deze dynamische Deeploy team is op een missie om uitlegbare AI (XAI) een centrale plaats te geven in ML-operaties en dit is hoe ze dat willen maken AI systemen die echt verantwoordelijk zijn.

Belang van XAI

Kleinloog benadrukt dat verklaarbare AI (XAI) is essentieel in human-in-the-loop (HITL)-systemen om besluitvormers de nodige context te bieden om hun door AI ondersteunde beslissingen te nemen of het model te corrigeren. Helaas worden de meeste AI-systemen momenteel ontworpen zonder dat er mensen bij betrokken zijn, waardoor vaak de laatste stappen naar de productie worden geblokkeerd.

Neem het voorbeeld van een door AI ondersteunde arts die een patiënt moet diagnosticeren op basis van een röntgenfoto. Zonder XAI kan de arts besluiten het advies van de AI op te volgen of te negeren. Met XAI legt Kleinloog uit dat artsen hun eigen vakkennis kunnen vergelijken met de uitleg van het AI-model. Dit proces kan de besluitvorming verbeteren en gedetailleerde feedback van de arts over de beslissing van het model mogelijk maken.

Daarnaast vergroot XAI ook het begrip en vertrouwen van een modelontwikkelaar, van het modelgedrag en de intentie. Als je je afvraagt ​​waarom er niet genoeg publieke discussie is over XAI, dan is het in de eerste plaats dat de meeste bedrijven het belang van XAI onderkennen, maar soms ook wat overtuigingskracht en zelfs voorlichting nodig hebben over de vitaliteit van XAI.

“Voor ons is het zó vanzelfsprekend dat je niet moet wachten met het verantwoord maken van AI-systemen”, zegt Kleinloog. Hij voegt eraan toe: “Vooral wanneer regelgeving transparantie vereist, zie je bedrijven kijken naar oplossingen op basis van XAI.”

XAI centraal stellen in MLOps

Hoe werkt Dieploy XAI centraal stellen in MLOps? Kleinloog legt uit dat XAI aanwezig moet zijn als onderdeel van de modelimplementatie en met hetzelfde belang moet worden behandeld als modelontwikkeling. Hij stelt dat alleen een dergelijke aanpak de mogelijkheid creëert om het model op verzoek van de gebruiker te ondervragen.

Nu de hype rond GenAI een koortsachtig hoogtepunt bereikt, ziet Deeploy dat XAI echt een centrale plaats wordt in ML-activiteiten. “Mensen beginnen de risico’s van AI te onderkennen en beseffen dat controle en transparantie essentieel zijn voor een verantwoord gebruik ervan”, legt Kleinloog uit.

Deeploy biedt zijn klanten nu al miljoenen uitleg per dag. De uitleg speelt een cruciale rol bij het aanbieden van aanvullende inhoud die nodig is om door AI ondersteunde beslissingen te nemen in human-in-the-loop-systemen of om het model te corrigeren.

Ambitieus Cloud-spel

Deeploy wordt steeds meer erkend als de enabler voor AI-gebruiksscenario's met grote impact. Kleinloog zegt dat de grootste clouduitdaging waarmee Deeploy regelmatig wordt geconfronteerd, de integratie met de steeds veranderende AI is. ecosystem waar alle grote cloudproviders hun steentje bijdragen. Hij zegt dat het efficiënt opschalen van de kosten een andere grote uitdaging is bij het gebruik van cloudgebaseerde oplossingen.

Om deze uitdagingen het hoofd te bieden, heeft Deeploy een vertrouwde partner gevonden in Doe het, een startup uit Silicon Valley die cloudgestuurde organisaties voorziet van intelligente technologie en multi-cloud-expertise om zowel tijd als geld te besparen. “DoiT is een betrouwbare kennispartner geweest bij het voorstellen van een kostenefficiënte ontwerpoplossing”, zegt Kleinloog.

Een van de manieren waarop Deeploy tijd en geld bespaart, is door DoiT te gebruiken als belangrijkste toegangspunt voor AWS-ondersteuning. De startup profiteert van de expertise en kostenbesparende oplossingen van DoiT Deeploy is gecharmeerd van het ‘iedereen wint’-bedrijfsmodel van DoiT, dat de Nederlanders helpt startup krijg betere prijzen en ondersteuning zonder extra geld uit te geven en “bespaart mogelijk geld.”

Nu AI de hoeksteen wordt van elke technologie, wil Deeploy de nieuwste cloudtechnologieën op een kostenefficiënte manier aanbieden, waarbij de expertise van DoiT een concurrentievoordeel oplevert.

Evolutie van XAI

Deeploy voorziet dat XAI de komende jaren een doorbraak zal doorbreken. Kleinloog is van mening dat het begrijpen van de interne modellen van het model niet alleen nodig is om de controle te behouden over de huidige state-of-the-art modellen, maar ons ook in staat stelt de volgende generatie GenAI-modellen te creëren. Met regelgeving als de De EU AI-wet wordt van krachtKleinloog verwacht dat bedrijven als OpenAI transparantie-inspanningen zullen zien om actief te blijven op de Europese markt.

Het doel van Deeploy is om bij te dragen aan de afstemming tussen mens en AI. “Wij geloven dat XAI al een rol speelt bij het verbeteren van verantwoord gebruik van en vertrouwen in AI-systemen en dat dit in de toekomst alleen maar zal toenemen”, voegt Kleinloog toe.

Deeploy wil state-of-the-art XAI-methoden beschikbaar maken voor gebruik in de praktijk en wil dat niet alleen doen. Ondersteund door € 3.5 miljoen aan financiering en de multi-cloud expertise van DoiT, gevestigd in Utrecht startup bevindt zich in een unieke positie om XAI tot gemeengoed in de AI-wereld te maken.

DoiT helpt digital native bedrijven bij het implementeren van kostenbeheersing en optimalisaties in de cloud om de bedrijfsgroei te stimuleren. Meld u aan voor een gratis proefversie van het product om te leren hoe DoiT intelligent is software en ongeëvenaarde cloudexpertise kan u tijd en geld besparen.