Wat AI hier doet, en wat niet.

01Waar dit over gaat

Het AI Lab ontwerpt en bouwt AI-automatisering, AI-agents, AI-chat- en spraakinterfaces, workflows, koppelingen, dashboards en de bedrijfssystemen eromheen, en adviseert over waar dat überhaupt de moeite waard is. Dit beleid legt uit hoe AI in dat werk wordt gebruikt.

Het geldt voor systemen die we aan klanten leveren en voor de tools die we intern gebruiken tijdens het bouwen. Alles wat specifiek is voor één opdracht leggen we vast in het contract van die opdracht, dat voorgaat op deze pagina.

02Waar AI wordt gebruikt, en waar niet

AI is goed gereedschap voor een specifieke soort probleem: rommelige taal begrijpen en een concept opleveren dat een mens snel kan controleren. Daar pakken we het voor.

• Binnenkomende tekst lezen en classificeren, bijvoorbeeld aanvragen sorteren op intentie of urgentie.
• Gestructureerde velden uit ongestructureerde documenten halen, zodat niemand een factuur overtypt.
• Lange stukken samenvatten tot iets waar een mens mee verder kan.
• Antwoorden, omschrijvingen en documenten opstellen die een mens beoordeelt voordat ze de deur uitgaan.
• Werk naar de juiste persoon of het juiste systeem sturen op basis van wat de inhoud werkelijk zegt.
• Conversatie- en spraakinterfaces die veelgestelde vragen beantwoorden en netjes overdragen als dat niet lukt.
• Ons ondersteunen tijdens het schrijven en beoordelen van code tijdens een bouw.

Waar we het bewust niet gebruiken

Een taalmodel is het verkeerde instrument zodra het antwoord elke keer identiek, aantoonbaar juist of regel voor regel verdedigbaar moet zijn. Rekenwerk, prijzen, belasting, drempelwaarden, toelatingsregels en alles met een juridisch gevolg horen in deterministische code die we kunnen testen.

Als gewone automatisering, een regel of een simpele koppeling je probleem beter oplost dan AI, zeggen we dat, ook als het project daar kleiner van wordt.

03Menselijk toezicht

Elke AI-stap die wij opleveren heeft een met naam genoemde mens die verantwoordelijk is voor de uitkomst. Automatisering verplaatst het werk, niet de verantwoordelijkheid.

We ontwerpen zo dat de zwaarte van de controle past bij de omvang van het gevolg. Iets dat alleen leestijd bespaart mag onbewaakt draaien en steekproefsgewijs worden gecontroleerd. Alles wat een klant bereikt, geld verplaatst, een record wijzigt of iemands rechten raakt, wordt door een mens beoordeeld voordat het effect heeft.

• Elke AI-stap is inspecteerbaar: je kunt zien wat erin ging en wat eruit kwam.
• Elke AI-stap kan door een mens worden overruled en gecorrigeerd zonder op ons te wachten.
• Elke AI-stap kan worden uitgezet, en het proces blijft daarna werken.
• Lage zekerheid, ongebruikelijke invoer of een mislukte controle escaleert naar een mens in plaats van te gokken.

We leveren geen systeem waarvan de uitkomst door niemand te controleren is. Als een proces niet realistisch te overzien is, is dat een reden om het anders te bouwen, geen reden om er meer op te vertrouwen.

04De grenzen van AI-output

Moderne taalmodellen zijn echt nuttig en echt onbetrouwbaar, op specifieke en voorspelbare manieren. Die manieren kennen is het verschil tussen een systeem dat helpt en een systeem dat stilletjes schade aanricht.

• Output is probabilistisch. Dezelfde vraag kan op een andere dag een ander antwoord opleveren.
• Een model kan met overtuiging fout zitten. Vloeiende, goed opgebouwde tekst bewijst niet dat de inhoud klopt.
• Modellen verzinnen plausibel ogende details, inclusief bronnen, cijfers en namen die niet bestaan.
• Kleine verschillen in formulering kunnen het antwoord meer veranderen dan zou moeten.
• Modellen weerspiegelen vooroordelen uit hun trainingsdata, wat zich kan uiten in ongelijke behandeling van mensen of gevallen.
• Een model weet niets over gebeurtenissen na zijn trainingsdatum, en niets over jouw bedrijf tenzij het systeem dat expliciet aanlevert.
• Aanbieders werken modellen bij. Gedrag kan verschuiven zonder dat er iets in jouw systeem verandert.

05Precisie waar het telt

De manier om een betrouwbaar AI-systeem te bouwen is het model alleen het deel van het werk te geven waar het echt goed in is, en de rest over te laten aan code die zich elke keer hetzelfde gedraagt.

Ons eigen product CalcAI is het duidelijkste voorbeeld dat we kunnen aanwijzen. Een taalmodel leest een klusomschrijving in gewone taal en bepaalt wat er gevraagd wordt. Een zelfgebouwde rekenengine doet vervolgens elke som, deterministisch, elke keer hetzelfde antwoord. De AI mag nooit een prijs verzinnen. Die scheiding is het patroon, niet de uitzondering.

06Jouw data en jouw verantwoordelijkheid

Een systeem dat wij bouwen verwerkt het materiaal dat jij erin stopt. Dat materiaal blijft van jou, en de verantwoordelijkheid dat het rechtmatig gebruikt mag worden ook.

• Jij bent verantwoordelijk voor het recht om de door jou aangeleverde data te gebruiken, inclusief de persoonsgegevens daarin.
• Jij bent verantwoordelijk voor de grondslag van de verwerking en voor het informeren van de mensen om wie het gaat.
• Jij bent verantwoordelijk voor de juistheid van wat je aanlevert. Een systeem dat verkeerde informatie krijgt, produceert sneller verkeerde output.
• Bijzondere categorieën gegevens, zoals gezondheids-, biometrische of strafrechtelijke informatie, mogen alleen een systeem in als de overeenkomst daarin voorziet en de waarborgen geregeld zijn.
• Stop geen inloggegevens, API-sleutels of wachtwoorden in prompts, chatvelden of uploads. Iets dat tekst leest hoort nooit een geheim te krijgen.

De uitkomst van een AI-stap is een concept totdat een mens of een deterministische controle hem heeft geaccepteerd. Kies je ervoor minder te controleren, dan aanvaard je het bijbehorende risico, en dat zeggen we onomwonden voordat het zo wordt ingesteld.

07AI-aanbieders van derden

Deze website gebruikt helemaal geen AI-aanbieder, dus er valt hier niets over te melden. Dat is het eerlijke antwoord, en als dat ooit verandert, verandert het eerst op deze pagina.

In klantopdrachten kiezen we modelaanbieders per project samén met de klant, omdat de juiste keuze afhangt van de taak, de gevoeligheid van de data en waar die rechtmatig verwerkt mag worden. We hanteren geen vaste standaardaanbieder die we stilzwijgend op iedereen toepassen.

• Welke aanbieders ook worden gebruikt, ze staan met naam in de verwerkersovereenkomst van de opdracht, voordat er iets wordt aangesloten.
• De verwerkingsregio is onderdeel van die keuze, en we geven de voorkeur aan Europese verwerking waar het project dat toelaat.
• Waar een aanbieder een instelling biedt die ingezonden data uitsluit van hun eigen modeltraining, zetten we die aan.
• Waar een aanbieder dat niet biedt, zeggen we dat voordat het wordt gebruikt, zodat de keuze aan jou is.

08Vertrouwelijkheid

Klantmateriaal is vertrouwelijk en blijft binnen de tools en accounts die voor die opdracht zijn afgesproken. Wij plakken geen klantdata in consumenten-AI-producten, persoonlijke accounts of gratis versies waarvan de voorwaarden training op de invoer toestaan.

Waar we tijdens het programmeren een AI-assistent gebruiken, werkt die op de codebase van het project zelf onder de voor dat project afgesproken voorwaarden, en blijven klantgeheimen en productiedata daarbuiten.

09Eerlijk zijn tegen je gebruikers

Als we een chat- of spraakinterface bouwen, bouwen we hem zo dat hij zegt dat hij een geautomatiseerd systeem is in plaats van te suggereren dat er iemand zit te typen. Datzelfde adviseren we in de omringende teksten, en we verzetten ons tegen een ontwerp dat gebruikers moet doen geloven dat ze met een mens praten.

Elk conversatiesysteem dat wij opleveren heeft een route naar een mens. Een geautomatiseerde assistent die niet kan helpen en niet kan doorverbinden is slechter dan helemaal geen assistent.

Waar AI wezenlijk vormgeeft wat iemand ontvangt, adviseren we dat te vermelden. Gebruikers zijn milder voor een systeem dat toegeeft wat het is dan voor een systeem dat ze betrappen.

10Regelgeving

AI-systemen in de Europese Unie vallen onder zowel de AI-verordening als de Algemene verordening gegevensbescherming, en de verplichtingen hangen af van wat het systeem doet, niet van de techniek erin. Een tool die interne samenvattingen schrijft wordt anders behandeld dan een tool die sollicitanten screent.

We bepalen vooraf waar een voorgesteld systeem waarschijnlijk in valt, en leggen schriftelijk vast wie welke verplichting draagt. Ziet een toepassing eruit alsof die in een hoogrisicocategorie thuishoort, dan zeggen we dat vroeg, want dat verandert budget en planning en niet een vinkje aan het eind.

11Wat wij niet bouwen

Sommige aanvragen wijzen we af, en het is eerlijker om vooraf te zeggen welke dan er een overleg aan te besteden.

• Systemen die zijn ontworpen om mensen te misleiden over de vraag of ze met een machine te maken hebben.
• Systemen die een echte, identificeerbare persoon nabootsen zonder diens duidelijke toestemming, stemklonen inbegrepen.
• Systemen die mensen beoordelen of rangschikken en zo hun toegang tot werk, wonen, krediet of diensten bepalen zonder betekenisvolle menselijke route.
• Systemen die persoonsgegevens verzamelen uit bronnen waar dat onrechtmatig is of in strijd met de voorwaarden van die bron.
• Systemen die tot doel hebben te manipuleren, te intimideren of op grote schaal misleidende content te maken.

12Melden dat er iets mis is

Heeft een AI-systeem dat wij bouwden iets onjuists, oneerlijks of schadelijks geproduceerd, dan horen we dat graag snel. Mail naar hello@thecreativitylab.nl met wat er gebeurde en ongeveer wanneer, en een mens kijkt in de daadwerkelijke registraties in plaats van je een formulier te sturen.

Draait het systeem voor een van onze klanten, dan is het hun proces en ondersteunen wij hen bij het herstellen. Zit het probleem in iets dat wij bouwden, dan is het oplossen ervan ons werk.