Die opkoms van diepgesmede video’s, stemkloning en ander KI-gegenereerde nabootsings veroorsaak wesenlike skade in Suid-Afrika, met misleidende inhoud wat wydverspreid raak op sosiale media. Hierdie tegnologieë word toenemend gesofistikeerd en word op 'n kommerwekkende skaal gebruik om individue te bedrieg en aansienlike finansiële verliese te veroorsaak. Die impak strek verder as blote finansiële skade; dit ondermyn die openbare vertroue in inligting en media.
In 2024 is die beeld van die bekende SAUK-uitsaaier Leanne Manas misbruik in vals onderskrywings vir gewigsverliesprodukte en aanlyn-handelsplatforms op Facebook en TikTok. Hierdie bedrieglike advertensies het die publiek mislei deur haar geloofwaardigheid in te span, wat 'n duidelike voorbeeld is van hoe bekende persoonlikhede se reputasie vir kwaadwillige doeleindes uitgebuit word. Die gebruik van haar beeld het 'n vals gevoel van legitimiteit aan hierdie swendelary verleen, wat dit vir die gemiddelde Suid-Afrikaner moeiliker gemaak het om die bedrog te identifiseer.
Is Suid-Afrikaners die teiken van bedrieglike finansiële skemas wat bevorder word deur diepgesmede video’s van Elon Musk. Hierdie video’s, wat die wêreldbekende tegnologiemagnaat se beeld en stem naboots, het beleggers aangespoor om in swendelary te belê, wat gelei het tot aansienlike finansiële verliese vir talle slagoffers. Die oortuigende aard van hierdie diepvals-video’s, gekombineer met die hoë profiel van die nagebootste persoon, maak dit 'n besonder gevaarlike vorm van bedrog wat moeilik is om te onderskei van egte inhoud.
Die groeiende bedreiging van AI-misleiding
'n Diepvals is KI-gegenereerde of gemanipuleerde media wat ontwerp is om dit te laat lyk asof 'n persoon iets gesê of gedoen het wat hulle nooit gedoen het nie. Hierdie tegnologie kan video's, klankopnames en selfs beelde omvorm om 'n valse werklikheid te skep wat byna ononderskeibaar is van die werklikheid. Die doel is dikwels om die publiek te mislei deur die geloofwaardigheid van bekende persone te misbruik of om disinformasie op 'n massiewe skaal te versprei. Die voortdurende tegnologiese ontwikkeling maak dit toenemend moeilik om ware van vals inhoud te onderskei, wat 'n beduidende uitdaging vir mediageletterdheid en inligtingsekuriteit inhou in 'n era waar digitale inhoud vinnig versprei.
In 2025 het professor Salim Abdool Karim, 'n gerespekteerde mediese kenner, verskyn in 'n diepvals-video waarin hy anti-inenting-verklarings gemaak het terwyl hy namaaksels van hartmedikasie onderskryf het. Hierdie spesifieke voorval beklemtoon die gevaar van diepvals-tegnologie wat gebruik word om valse inligting oor openbare gesondheid te versprei en verbruikers aan te moedig om onwettige of gevaarlike produkte te koop. Die video het die publieke vertroue in wetenskaplike en mediese figure ondermyn, wat ernstige implikasies vir gesondheidsopvoeding en -beleid kan hê, veral in 'n land waar gesondheidsinligting van kardinale belang is. Die vermoë om sulke gesaghebbende stemme te misbruik, skep 'n krisis van vertroue en kan die openbare gesondheid direk in gevaar stel.
Met slegs 'n paar sekondes se klank kan KI 'n persoon se stem met natuurlike intonasie, ritme en emosie repliseer. Hierdie stemkloningstegnologie word dikwels in bedrogspul gebruik, waar oortreders hul teikens mislei deur die stemme van familielede of gesaghebbende figure na te boots om vertroue te wen. Hierdie vermoë stel misdadigers in staat om uiters oortuigende bedrogspul te skep wat slagoffers manipuleer om finansiële transaksies te doen of sensitiewe inligting te verskaf, wat die risiko van finansiële verliese en identiteitsdiefstal aansienlik verhoog. Die emosionele impak op slagoffers wat glo dat hulle met 'n geliefde gepraat het, is ook verwoestend.
Suid-Afrikaanse wetlike landskap
Suid-Afrika beskik tans nie oor 'n enkele wet wat spesifiek aan kunsmatige intelligensie (KI) of diepvals-tegnologie gewy is nie. Dit skep 'n leemte wat die effektiewe aanspreek van hierdie nuwe vorme van misleiding bemoeilik. Verskeie bestaande wetgewing kan egter wel ingespan word om aspekte van KI-gegenereerde misleiding aan te spreek, al is dit nie spesifiek vir hierdie tegnologieë ontwerp nie. Die Wet op Kubermisdade kriminaliseer byvoorbeeld die elektroniese openbaarmaking van intieme beelde sonder toestemming, ingevolge artikel 16, en hierdie definisie sluit ook gesimuleerde beelde in, wat 'n mate van beskerming bied teen die verspreiding van vals intieme diepvals.
Die Wet op die Beskerming van Persoonlike Inligting (POPIA) verbied die verwerking van persoonlike inligting sonder 'n wettige grondslag, en artikel 99 van hierdie wet maak dit moontlik vir slagoffers om skadevergoeding te eis vir die onregmatige gebruik van hul persoonlike data, insluitend hul beelde en stemme. Verbied die Verkiesingswet die publikasie van vals inligting wat bedoel is om verkiesings te beïnvloed, wat 'n belangrike instrument is om die verspreiding van politieke diepvals te bekamp. Die Wet op Films en Publikasies verbied die verspreiding van private seksuele foto's of films sonder toestemming met die doel om skade te berokken, wat ook relevant kan wees in gevalle van intieme diepvals.
Die Wet op Beskerming teen Teistering stel slagoffers in staat om beskermingsbevele te verkry om voortdurende aanlynteistering te stop, wat 'n meganisme bied vir individue wat deur KI-gegenereerde inhoud geteister word. Benewens statutêre bepalings bied die Suid-Afrikaanse gemenereg ook verhaalsmoontlikhede deur middel van die _actio iniuriarum_, 'n regsmiddel vir die aantasting van 'n persoon se dignitas, wat eer, reputasie en privaatheid insluit. Hierdie beginsel is verder bevestig deur die Hoogste Hof van Appèl in die saak _Grütter v Lombard and Another_ (2007), wat aangedui het dat 'n persoon se identiteit teen ongemagtigde uitbuiting beskerm word, selfs in die afwesigheid van spesifieke KI-wetgewing.
In 'n ander belangrike uitspraak, _Kumalo v Cycle Lab (Pty) Ltd_ (2011), het die Hoë Hof bevind dat die gebruik van iemand se beeld vir valse aanbevelings 'n inbreuk maak op identiteits- en privaatheidsregte. Hierdie sake skep 'n basis vir regstappe teen die misbruik van KI-tegnologieë, selfs sonder spesifieke KI-wetgewing, en dien as 'n belangrike presedent vir toekomstige litigasie. Dit wys dat die Suid-Afrikaanse regstelsel wel beginsels bevat wat aangewend kan word om die nuwe uitdagings van KI aan te spreek, al is dit nie perfek toegerus vir die spoed en skaal van digitale misleiding nie.
Internasionale benaderings tot regulering
Internasionaal het verskeie lande reeds wetgewing ingestel om die uitdagings van KI-gegenereerde misleiding aan te spreek, wat Suid-Afrika kan inspireer in sy eie wetgewende proses. In die Verenigde State het die TAKE IT DOWN Act, 2025, die nie-konsensuele intieme diepvals gekriminaliseer en vereis dat platforms sulke inhoud binne 48 uur moet verwyder, wat 'n vinnige reaksie op skadelike inhoud verseker. Tennessee se ELVIS Act, 2024, was die eerste wetgewing om publisiteitsregte uitdruklik na KI-gegenereerde stemklone uit te brei, wat 'n baanbrekende stap is om die regte van kunstenaars en publieke figure te beskerm teen ongemagtigde nabootsing.
Die Europese Unie se KI-wet, 'n omvattende stuk wetgewing, vereis verpligte openbaarmaking wanneer inhoud KI-gegenereer is en lê boetes van tot 6% van 'n maatskappy se globale omset op vir nie-nakoming, wat 'n sterk afskrikmiddel teen onverantwoordelike KI-gebruik bied. Die Verenigde Koninkryk het ook stappe gedoen met sy Online Safety Act, 2023, en die Data (Use and Access) Act, 2025, wat die deel en skep van nie-konsensuele intieme diepvals gekriminaliseer het, en sodoende die beskerming van individue se digitale integriteit versterk. Hierdie internasionale ontwikkelings dien as 'n bloudruk vir Suid-Afrika se eie benadering tot die regulering van KI-tegnologie, en beklemtoon die wêreldwye erkenning van die noodsaaklikheid om hierdie kwessie aan te spreek.
Uitdagings met handhawing en oplossings
Die primêre uitdaging in Suid-Afrika lê by die handhawing van bestaande wetgewing eerder as die afwesigheid van verbodsbepalings. Alhoewel daar relevante wette is, is die toepassing daarvan dikwels moeilik en stadig. Suid-Afrika het wel 'n Nasionale KI-beleidsraamwerk deur die Departement van Kommunikasie en Digitale Tegnologieë vrygestel, wat 'n stap in die regte rigting is om die kwessie aan te spreek deur 'n omvattende strategie te ontwikkel.
Hofstelsels ervaar egter kapasiteitsbeperkings, litigasie bly tydrowend en duur, oortreders skuil dikwels agter anonieme profiele, en globale platforms reageer traag op plaaslike hofbevele. Hierdie struikelblokke bemoeilik die effektiewe vervolging van oortreders en die vinnige verwydering van misleidende inhoud. Om hierdie uitdagings die hoof te bied, moet die Parlement wetgewing oor sosiale media bywerk sodat platforms direk aanspreeklik gehou word vir die inhoud wat op hul dienste versprei word. Daar moet ook verpligte watermerke vir KI-gegenereerde inhoud ingestel word om die oorsprong daarvan duidelik te identifiseer, en verseker word dat verwyderingstelsels wel effektief funksioneer en vinnig reageer op klagtes. Slegs met 'n gekombineerde benadering van wetgewende hervorming, tegnologiese oplossings en verbeterde handhawing kan Suid-Afrika die groeiende bedreiging van KI-gegenereerde misleiding doeltreffend bekamp.
