Achter de vraag: wat gebeurt er als je AI gebruikt?
AI is snel een integraal onderdeel van het dagelijkse werk geworden. Werknemers gebruiken het om e-mails te schrijven, documenten samen te vatten, informatie te analyseren, ideeën te genereren en administratieve taken te versnellen. In veel organisaties wordt AI waarschijnlijk al op meer gebieden ingezet dan het management of de IT-afdeling zich realiseert.
Het gebruik van AI is ook ongelooflijk eenvoudig geworden. Open een tool, voer een vraag in en binnen enkele seconden heb je een antwoord.
Maar dat gebruiksgemak kan een vals gevoel van eenvoud creëren. Welke informatie deel je met de AI? Wat gebeurt er met die informatie? Kun je het antwoord vertrouwen? En wat gebeurt er als AI wordt gekoppeld aan de systemen van je organisatie?
Deze vragen worden steeds belangrijker naarmate AI toegang krijgt tot meer informatie, systemen en taken.
Een zelfverzekerd antwoord is niet per se een juist antwoord.
Generatieve AI kan opmerkelijk overtuigende antwoorden produceren. Helaas betekent overtuigend niet altijd correct.
AI-systemen kunnen fouten maken, de context verkeerd interpreteren of informatie verstrekken die plausibel klinkt maar onjuist is. In hoeverre dit van belang is, hangt sterk af van waarvoor je AI gebruikt.
Er is een groot verschil tussen AI vragen om een titel voor een presentatie voor te stellen en AI vragen om conclusies te trekken uit een klantendossier.
Daarom blijft menselijk toezicht belangrijk. Niet elke door AI gegenereerde zin hoeft gecontroleerd te worden, maar organisaties en medewerkers moeten begrijpen wanneer verificatie nodig is.
Denk goed na voordat je iets uploadt.
Stel je voor dat een medewerker hulp nodig heeft bij het samenvatten van een lang klantdossier. De eenvoudigste optie is om het hele document te uploaden naar een AI-tool.
Handig? Absoluut.
Maar welke informatie stond er in dat document? Stonden er namen, contactgegevens, financiële informatie of andere vertrouwelijke gegevens in? Welke AI-dienst werd gebruikt? Wordt die informatie opgeslagen of voor andere doeleinden gebruikt?
De antwoorden hangen af van het AI-systeem, het type account, de instellingen ervan en de overeenkomsten die uw organisatie met de aanbieder heeft.
Organisaties zouden daarom duidelijke regels moeten opstellen over welke AI-tools medewerkers mogen gebruiken en welke informatie met hen gedeeld mag worden. Dit verkleint het risico dat medewerkers onbewust ongeschikte tools gebruiken of informatie delen op een manier die vertrouwelijke of gevoelige gegevens kan blootleggen.
Wat als AI zelf actie kan ondernemen?
Tot voor kort betekende het gebruik van generatieve AI vooral het stellen van een vraag en het ontvangen van een antwoord. Met de opkomst van AI-agenten, Dat is aan het veranderen.
AI-agenten kunnen in de toekomst taken namens een gebruiker uitvoeren. Afhankelijk van hun machtigingen kunnen ze websites bezoeken, documenten lezen, applicaties gebruiken of informatie uit bedrijfssystemen opvragen.
Dat kan veel tijd besparen, maar het brengt ook een ander soort risico met zich mee.
Stel je een AI-agent voor die verbonden is met je e-mail en documentopslag. Om zijn werk te kunnen doen, heeft de agent toegang tot informatie nodig. Maar die toegang kan ook kwetsbaarheden creëren.
Een relevant voorbeeld is snelle injectie. Een AI-agent kan instructies tegenkomen die verborgen zijn in een website, e-mail of document dat hij verwerkt. Deze instructies kunnen proberen de AI te manipuleren om iets te doen waar de gebruiker nooit om heeft gevraagd.
Een aanvaller probeert dan niet per se de werknemer zelf te misleiden. Het kan zijn dat hij of zij de AI probeert te misleiden die voor die werknemer werkt.
Dit is met name relevant wanneer de AI toegang heeft tot vertrouwelijke informatie of acties kan uitvoeren in andere systemen. Hoe meer een AI-systeem mag doen, hoe zorgvuldiger de toegang en machtigingen beheerd moeten worden.
AI kan ook tegen uw organisatie worden gebruikt.
Er is echter ook een andere kant aan het verhaal. Organisaties zijn niet de enigen die profiteren van steeds geavanceerdere AI.
Aanvallers kunnen ook AI gebruiken.
AI kan helpen bij het onderzoeken van potentiële doelwitten, het creëren van overtuigende phishingberichten, het analyseren van informatie en het identificeren van mogelijke kwetsbaarheden. Europese cybersecurityorganisaties hebben gewaarschuwd dat generatieve AI bepaalde aspecten van cybercriminaliteit sneller en gemakkelijker kan maken, zelfs voor mensen met relatief beperkte technische vaardigheden.
Dit betekent dat organisaties niet alleen moeten nadenken over hoe ze zelf AI gebruiken. Bestaande cybersecuritymaatregelen moeten ook rekening houden met aanvallers die AI kunnen gebruiken om sneller en op grotere schaal te werken.
Je hoeft geen AI-expert te worden.
Verantwoord gebruik van AI betekent niet dat elke medewerker precies moet begrijpen hoe een groot taalmodel werkt.
Ze moeten echter wel voldoende kennis hebben om de risico's die relevant zijn voor hun werk te herkennen.
Kan ik klantgegevens in deze tool invoeren? Moet ik dit controleren voordat ik de tool gebruik? Heeft deze AI toegang tot bedrijfsgegevens? Kan de tool acties uitvoeren zonder mijn goedkeuring? En wat moet ik doen als er iets onverwachts gebeurt?
Dit is waar AI-geletterdheid wordt belangrijk.
Artikel 4 van de EU-verordening inzake kunstmatige intelligentie (AI) verplicht aanbieders en gebruikers van AI-systemen om maatregelen te nemen die ervoor zorgen dat hun personeel en andere personen die namens hen met AI-systemen werken, voldoende kennis van AI bezitten. Wat voldoende is, hangt af van factoren zoals hun kennis, ervaring, opleiding en de context waarin de AI wordt gebruikt.
AI-geletterdheid gaat daarom over meer dan alleen werknemers leren hoe ze een goede prompt moeten schrijven. Het gaat erom mensen voldoende inzicht te geven om AI bewust en verantwoord te gebruiken.
Als u niet zeker weet welke vereisten van de AI-wetgeving van toepassing zijn op uw organisatie, of wat deze in de praktijk betekenen, Compliance Scan Dit kan als eerste stap worden gebruikt. Het helpt u uw rol binnen de AI-wetgeving te bepalen en de vereisten die mogelijk van toepassing zijn op uw organisatie.
Inzicht in wat je gebruikt
AI kan het dagelijkse werk sneller en gemakkelijker maken, maar verantwoord gebruik begint met inzicht in de tools die je in je organisatie introduceert. Dat betekent weten welke informatie ze verwerken, waartoe ze toegang hebben, waar hun beperkingen liggen en wanneer menselijk toezicht nodig is.
Hetzelfde geldt voor beveiliging. Naarmate AI nuttiger wordt voor organisaties, wordt het ook nuttiger voor diegenen die manieren zoeken om in hun systemen in te breken.
Je hoeft niet elk technisch detail van AI te begrijpen. Maar als een tool binnen je organisatie wordt gebruikt, moet er wel duidelijkheid zijn over wat de tool doet, tot welke gegevens deze toegang heeft en hoe deze gebruikt moet worden. Dat is een praktisch uitgangspunt voor verantwoord en veilig gebruik van AI.
Wilt u meer weten?
Als u zich verder wilt verdiepen in AI-naleving, risicomanagement of de EU AI Act, bekijk dan:
📚 Onze laatste artikelen over AI-naleving.
❓ Onze FAQ-sectie voor antwoorden op veelgestelde vragen.
Heeft u nog vragen? 📩 Neem vandaag nog contact met ons op.
Want als het bij AI om naleving gaat, is wachten het grootste risico.