Wat u moet weten
- Uw investering in AI betaalt zich alleen terug als er controlemechanismen zijn geïmplementeerd die ervoor zorgen dat de output nauwkeurig en betrouwbaar is, en is afgestemd op de doelen van uw organisatie.
- Effectief AI Management begint bij het identificeren van uw belangrijkste risicogebieden en bij het in kaart brengen van deze risico's aan de hand van de huidige en opkomende regelgeving.
- Door uw rol in de AI-waardeketen te verduidelijken, kunt u prioriteit geven aan de wettelijke en nalevingsvereisten die voor u het meest relevant zijn.
- AI vereist menselijk toezicht, met duidelijke verantwoording en controlemechanismen in elke fase, van ontwerp tot prestatiebewaking.
- Door controlemechanismen te integreren die zijn afgestemd op uw risico's, wordt uw organisatie beschermd zonder dat dit leidt tot een vertraging van de innovatie.
Alleen investeren is niet voldoende om de volledige waarde van AI te benutten. Ongeacht of u AI ontwikkelt of gebruikt, effectief AI Management is altijd een vereiste. Management dat duidelijk toezicht, vastgestelde rollen en controles combineert en risico's, naleving en innovatie in de volledige AI-levenscyclus op elkaar afstemt.
Wat gebeurt er als AI sneller beweegt dan de controle?
Net als veel andere organisaties bent u waarschijnlijk bezig om Artificial Intelligence (AI) zo snel mogelijk in te zetten om de kosten te verlagen, de innovatie te verhogen en u te onderscheiden van uw concurrenten. In slechts een paar jaar tijd heeft AI zich ontwikkelt van de periferie tot een belangrijke overweging voor strategie en groei op de lange termijn. U vraagt uzelf niet langer af of u moet investeren in AI, u beslist waarin u precies investeert en hoeveel hieraan te besteden.
Maar AI kan het nog steeds fout hebben. De Chicago Sun-Times heeft recentelijk een lijst met boeken gepromoot die niet bestaan, gegenereerd door AI. iTutor Group heeft een schikking van $ 365.000 moeten treffen nadat de door AI-gestuurde wervingstool vrouwelijke sollicitanten van 55 jaar en ouder automatisch afwees. Deze voorbeelden laten zien hoe snel AI-fouten zich kunnen vertalen in gevolgen voor de praktijk.
AI kan u tijd en geld besparen. Maar wanneer het niet goed wordt beheerd, kan AI net zo makkelijk deze beide verspillen. Fouten kunnen het vertrouwen ondermijnen, u blootstellen aan juridische risico's en uw reputatie schaden.
De uitdaging hier is dat, in de haast om AI te implementeren, nieuwe risico's niet altijd worden geïdentificeerd of beheerst. Ons onderzoek toont aan dat slechts 47% van de organisaties AI-gebruik controleren met formele processen. En slechts 57% is van mening dat hun personeel de vaardigheden heeft om AI effectief te gebruiken. Dit hiaat tussen implementatie en controle is waar investeringen in AI ondermaats gaan presteren.
Om ervoor te zorgen dat uw investering in AI de moeite waarde is, hebt u managementsystemen nodig die ervoor zorgen dat de output juist is.
Wat is uw rol in het gebruik van AI?
Effectief AI Management begint met te begrijpen wat uw rol is in de levenscyclus van AI.
Voordat u een effectief AI-managementsysteem kunt ontwikkelen, moet het duidelijk zijn hoe AI wordt ingezet binnen uw organisatie.
- Wat is uw visie voor AI?
- Wat wilt u bereiken?
- Waar beginnen en eindigen uw verantwoordelijkheden?
Mogelijk bouwt uw organisatie AI-oplossingen. U kunt deze wellicht inbouwen in klantomgevingen. Of u kunt gewoon AI-systemen gebruiken die zijn ontwikkeld door derden.
De rol die uw organisatie speelt, geeft ook direct vorm aan uw risico's en verantwoordelijkheid. Door de rollen van stakeholders te gebruiken die is vastgesteld in de internationale norm AI Management, ISO/IEC 42001, kunt u bepalen welke rollen het best bij u passen.
- Producent - u draagt de ontwerprisico's, met name als het gaat om cybersecurity.
- Partner - u draagt het implementatierisico.
- Provider - u bent verantwoordelijk voor de betrouwbaarheid, beveiliging en continuïteit van de service.
- Klant - u draagt de uiteindelijke verantwoordelijkheid voor de manier waarop AI wordt gebruikt.
Uw rollen bepalen ook de capaciteiten die u nodig hebt. Als u AI-oplossingen ontwikkelt, hebt u diepgaande technische expertise nodig. Terwijl u, als klant, breder organisatorisch bewustzijn nodig hebt.
Er is geen model dat voor iedereen geschikt is als het gaat om AI Management. Maar nadat u uw rollen hebt gedefinieerd, kunt u uw specifieke verantwoordelijkheden bepalen. Dit wordt uw basis voor het opbouwen van bestuursstructuren die voor u zinvol zijn. Verantwoorde AI-implementatie beschermt uw organisatie en maakt het tegelijkertijd mogelijk om te innoveren.
Waar liggen uw risico's en verplichtingen ten aanzien van AI?
Zodra u begrijpt wat uw rol is, is de volgende stap het vaststellen waar u bent blootgesteld aan risico's en hoe de regelgeving op u van toepassing is. Bijvoorbeeld, de EU AI Act biedt een kader voor veiligere, meer verantwoorde AI-implementatie in Europa.
Maar u hebt mogelijk al wettelijke verplichtingen, ongeacht of de speciale AI-wetgeving van toepassing is. Wetten op het gebied van privacy, cybersecurity en productveiligheid kunnen allemaal relevant voor u zijn. De vereisten ten aanzien van transparantie en geautomatiseerde besluitvorming onder de EU General Data Protection Regulation (GDPR, oftewel Algemene Verordening Gegevensbescherming) zijn al vele jaren van kracht. Naleving begint niet bij de specifieke AI-wetgeving, u moet ook kijken naar uw huidige nalevingsverplichtingen.
Door eerst inzicht te krijgen in uw rol kunt u zich richten op de risico's en verplichtingen die het belangrijkst zijn. Het AI Foundation Framework (basiskader) van BSI helpt u dit te doen door risico's te identificeren in uw organisatorische context, zodat u het juiste niveau van controle kunt implementeren. Zonder de innovatie te belemmeren.
Weet u het nog?
AI vereist menselijk toezicht om vertrouwen op te bouwen. Hoewel dit er anders uit kan zien, afhankelijk van de manier waarop u AI gebruikt, moet de verantwoording altijd terug te leiden zijn naar personen. Dit loopt van de top van uw organisatie omlaag. Met rollen en verantwoordelijkheden die zijn geïntegreerd op elk niveau om te voorkomen dat deze verschuiven.
Stel uzelf de vraag: houden wij passend toezicht op de volledige levenscyclus van AI?
Van ontwerp en concept tot het monitoren van outputs op nauwkeurigheid, vooroordelen en risico's. Op dit moment heeft slechts 33% van de bedrijven een gedefinieerde procedure voor de introductie van nieuwe AI-tools. Zonder deze procedure wordt het moeilijk om de nauwkeurigheid en verantwoording te waarborgen naarmate het gebruik van AI wordt uitgebreid. Slechts 35% heeft een gestandaardiseerde manier om te beoordelen of AI zich gedraagt zoals bedoeld. Effectief toezicht vereist een mens om de kaders voor besluitvorming te definiëren waarbinnen AI opereert. Maar ook een mens om er zeker van te zijn dat u op deze kaders kunt vertrouwen.
Om dit mogelijk te maken, moet u investeren in vaardigheden en training op basis van internationale best practices. In softwareontwikkelingsomgevingen kunt u mogelijk verplichte controlepunten inbouwen, waardoor de voortgang naar de volgende fase wordt voorkomen totdat u de risico's en controles hebt beoordeeld. U zou als ontwerpmethode ook kunnen kijken naar AI waarin de mens centraal staat (HCAI), waardoor menselijke behoeften en waarden centraal staan in de kern van uw AI-oplossing. Dit kan een verantwoorde AI-implementatie en innovatie allemaal ondersteunen.
Maak de balans op terwijl u nadenkt over het integreren van AI in uw organisatie.
- Welke rol speelt u binnen de AI-levenscyclus?
- Welke invloed heeft dit op uw risico's en verantwoordelijkheid?
- En hoe kunt u menselijke verantwoordelijkheid inbouwen gedurende uw AI-levenscyclus?
Als het goed wordt gedaan, hoeft het beheer geen onnodige last te worden. Het kan uw risico's verlagen en kansen creëren om waarde op te bouwen voor de lange termijn.
Met vertrouwen vooruit
Effectief AI Management begint met het verkrijgen van inzicht in waar u vandaag de dag staat en waar u zich als volgende stap op moet richten.
Het modulaire AI Foundation Framework van BSI helpt u hierbij. Het helpt u uw huidige capaciteiten te beoordelen, uw specifieke risicoprofiel te bepalen en prioriteit te geven aan de praktische stappen die de grootste impact hebben.
Binnen het kader richt de AI Management-module zich op hoe goed uw AI-systemen in de praktijk worden beheerd. Op basis van erkende ISO- en NIST-normen zal het u helpen:
- de effectiviteit van uw controlemechanismen te evalueren;
- het menselijk toezicht te verbeteren;
- belangrijke gebieden, zoals levenscyclusmanagement, documentatie en leveranciersrisico te versterken; en
- u voor te bereiden op ISO/IEC 42001-certificering, als dat uw doel is.
Door de AI Management-module te voltooien, kunt u de risico's verlagen en waarde creëren naarmate uw AI-systemen en capaciteiten zich verder ontwikkelen.
