Met de komst van de AI-act staan we aan de vooravond van een nieuwe fase in de regulering van kunstmatige intelligentie. Voor organisaties die generatieve AI-toepassingen willen implementeren, is het essentieel om de basis op orde te hebben. Dit betekent dat de behandeling van persoonsgegevens en beveiliging van cruciaal belang zijn. Voor spraakgestuurde toepassingen, zoals spraakopnames, geldt dat deze bijzondere persoonsgegevens betreffen en dus extra bescherming vereisen.
Bij het verwerken van spraakopnames moeten organisaties rekening houden met de strenge eisen rondom persoonsgegevens. Spraakopnames bevatten immers gevoelige informatie die correct en veilig moet worden behandeld. Dit houdt in dat er passende technische en organisatorische maatregelen moeten worden genomen om de integriteit en vertrouwelijkheid van deze gegevens te waarborgen.
Een ander belangrijk aspect van de AI-act is transparantie. Gebruikers moeten niet alleen weten dat er AI wordt gebruikt, maar ook op welke manier en met welke modellen. Dit betekent dat organisaties duidelijk moeten communiceren over hoe AI wordt ingezet en welke data hiervoor wordt gebruikt. Transparantie bevordert het vertrouwen van gebruikers en maakt het proces inzichtelijker.
Een goede klachtenafhandeling is eveneens een vereiste. Gebruikers moeten de mogelijkheid hebben om klachten in te dienen als zij ontevreden zijn over de AI-diensten. Dit vraagt om een goed georganiseerd en toegankelijk klachtenmechanisme, waarmee gebruikers snel en efficiënt geholpen kunnen worden.
Bij risicovolle AI-systemen is menselijke controle op de beslissingen van AI essentieel. Dit betekent dat er altijd een mens moet zijn die de uiteindelijke beslissingen kan controleren en waar nodig kan ingrijpen. Hierdoor wordt voorkomen dat AI-systemen zonder toezicht beslissingen nemen die grote gevolgen kunnen hebben.
Het gebruik van AI is al diepgeworteld in ons dagelijks leven, en daarom is zorgvuldigheid geboden. Ons eerste generatieve AI-module zal worden geïntroduceerd in ons Tell James product, een spraakgestuurde rapportagetool voor de zorgsector. In plaats van een letterlijk ingesproken verslag, levert Tell James een door AI verbeterd, grammaticaal correct verslag. De resultaten zijn verbluffend en we hebben zorgvuldig nagedacht over de juridische randvoorwaarden om het verantwoord te doen.
De AI-act dwingt ons om verantwoordelijk om te gaan met de implementatie van AI. Door aandacht te besteden aan persoonsgegevens, security, transparantie, klachtenafhandeling en menselijke controle, kunnen we generatieve AI op een verantwoorde manier inzetten. Met Tell James zetten we een eerste stap en dit smaakt zeker naar meer!
O ja, voor ik het vergeet: het plaatje bij dit artikel is gegenereerd door AI.
Ben jij geïnteresseerd in artificial intelligence en wat daar allemaal bij komt kijken? Neem vandaag nog contact met ons op en ontdek hoe wij jou kunnen helpen deze innovatieve technologie te integreren in jouw dagelijkse praktijk.
