Van creatie tot voorzichtigheid: Veilig gebruikmaken van generatieve AI

Geen dag gaat voorbij zonder dat we horen over nieuwe toepassingen voor kunstmatige intelligentie en machine learning. Het voelt als een waterval van informatie en meningen die even inspirerend als angstaanjagend zijn. Maar ongeacht welke mening je ook hebt, de technologische geest is definitief uit de fles.

Geschreven door: Keith Batterham

Of je nu een multinational, een start-up, een gevestigd bedrijf op zoek naar groei en efficiëntie bent, of zelfs iemand die zich afvraagt waar dit allemaal over gaat, als je nog geen gebruikmaakt van AI-technologieën of van plan bent deze te gebruiken, is de kans groot dat je collega’s dat wel doen.

Het verkrijgen van een concurrentievoordeel is een overtuigende drijfveer, maar vooral in het bedrijfsleven moet je rekening houden met veiligheidsproblemen zoals een mogelijke gebrek aan transparantie en verklaringsvermogen van de resultaten, wat betekent dat ze moeilijk te controleren en te vertrouwen kunnen zijn. Natuurlijk zijn er ook goed gedocumenteerde voorbeelden van het misbruiken van de manier waarop deze systemen werken, waarbij technieken worden gebruikt om gedrag te veranderen en beveiligingsmaatregelen te omzeilen.

Een snelle definitie

Generatieve AI-tools zijn algoritmes die nieuwe inhoud kunnen creëren, zoals tekst, afbeeldingen, audio, video, code en simulaties op basis van invoergegevens. Ze worden aangedreven door machine learning-modellen die over het algemeen worden getraind op grote hoeveelheden gegevens om patronen te leren en uitvoer te genereren die originele gegevens nabootsen, met het potentieel om sectoren en domeinen te revolutioneren, van entertainment tot onderwijs tot gezondheidszorg.

Deze tools kunnen helpen bij het creëren van nieuwe en boeiende inhoud, het verbeteren van bestaande inhoud, het optimaliseren van bedrijfsprocessen en het oplossen van complexe problemen. De kwaliteit, nauwkeurigheid en snelheid van de reacties zullen in de loop der tijd aanzienlijk verbeteren.

Waarschijnlijk het meest impactvolle voorbeeld van generatieve AI dat ik tot nu toe bij klanten heb gezien, is toegepast binnen data-analyse en risicobeheersing. Hierbij hebben ze synthetische gegevens gebruikt om complexe datasets te verkennen en te begrijpen, en vervolgens dit begrip gebruikt om patronen en gedrag van transacties of gebruikers te analyseren. Steeds vaker zie ik experimenten met codegeneratie en het documenteren van legacy-code om te helpen bij onderhoud of refactoring.

Wees op de hoogte

Het kan erg verleidelijk zijn om meteen in generatieve AI te duiken om die concurrentievoordelen te behalen die deze krachtige technologieën kunnen bieden, maar wees op de hoogte van de uitdagingen en risico’s om dit veilig en verantwoord te kunnen doen. Vanuit een beveiligings- en risicoperspectief is het belangrijk om rekening te houden met het volgende:

• Technische complexiteit en schuld – Met mogelijk miljarden of biljoenen parameters kunnen deze moeilijk te begrijpen, debuggen en optimaliseren zijn, met aanzienlijke behoeften op het gebied van rekenkracht, opslag en infrastructuur. Evenzo zijn ze mogelijk niet compatibel met bestaande systemen of processen, dus kunnen ze integratie, aanpassing of transformatie vereisen. Net als bij het introduceren van andere nieuwe technologieën, zullen nieuwe afhankelijkheden, kwetsbaarheden en beveiligingsdreigingen moeten worden beheerd.
• Monitoring van mogelijk misbruik – Kwaadwillende actoren kunnen schadelijke of misleidende inhoud genereren, zoals fraude, cyberaanvallen of desinformatie. Ze kunnen ook onnauwkeurige of ongepaste inhoud produceren als gevolg van fouten, vooringenomenheden of beperkingen in hun gegevens of algoritmen. Dit kan de integriteit of authenticiteit van deze systemen of hun uitvoer compromitteren, wat kan leiden tot beveiligingsinbreuken of verliezen.
• Juridische zorgen en algoritmische vooringenomenheid – Zorgen zoals gegevensprivacy, auteursrecht of intellectuele eigendomsrechten zijn onvermijdelijk, aangezien er mogelijk vooringenomen of discriminerende inhoud kan worden gegenereerd die van invloed is op de eerlijkheid, verantwoordingsplicht of transparantie van de resultaten. Dit kan het vertrouwen van systemen of gebruikers ondermijnen, wat kan leiden tot juridische geschillen of reputatierisico’s.

Wees proactief

Bedrijven moeten een holistische en proactieve aanpak hanteren voor het beheer van beveiligingsrisico’s bij generatieve AI. Dit omvat:

• Begrijpen hoe deze tools werken, wat ze wel en niet kunnen doen, en het selecteren van tools die passen bij de gewenste resultaten en succescriteria op basis van het budget en de mogelijkheden van uw organisatie.
• Het informeren en trainen van medewerkers en belanghebbenden over de voordelen en risico’s van deze nieuwe technologieën, en het implementeren van best practices en standaarden voor ontwikkeling, implementatie en governance.
• Kleinschalige experimenten uitvoeren voordat u opschakelt, waarbij u zorgvuldig de kwaliteit en relevantie van de gegenereerde resultaten evalueert en eventuele fouten of problemen controleert. Gebruik tools en technieken om de beveiligingspositie te testen, te monitoren en te verbeteren.
• Het respecteren van de gegevensrechten en privacy van anderen; verifiëren en toeschrijven van de inhoud die u gebruikt of produceert, samenwerken met menselijke experts of collega’s, en het volgen van juridische en ethische richtlijnen.

Wees voorbereid

Als je werkzaam bent in een organisatie, is het nu tijd om je dreigingsmodellering, het gebruik van technologie en toegangsbeleid, en risicodocumentatie opnieuw te bekijken, omdat dit de perfecte gelegenheid is om de bedrijfsvoering, technologie en beveiliging samen te brengen. Veel van de producten en diensten die je momenteel gebruikt, bevatten al AI- en ML-elementen of zullen deze in de toekomst hebben, dus je moet bepalen hoe je ze wilt omarmen of beperken.

Een laatste gedachte

Als beveiligingsprofessional houdt mijn werk in dat ik in staat moet zijn om te begrijpen hoe strategieën worden ondersteund door technologieën en hoe ze veilig kunnen worden geïmplementeerd zonder onnodige wrijving te introduceren. Dit zijn spannende en krachtige technologieën die zowel individuen als organisaties kunnen helpen nieuwe waarde en kansen te creëren, maar ze vereisen ook zorgvuldig en verantwoordelijk gebruik om mogelijke valkuilen en risico’s te vermijden. Door de genoemde stappen te volgen, kun je veilig en verantwoord aan je reis beginnen en de nieuwe generatieve AI-tools omarmen.