Default
Door Remote - 19 Aug 2026
Naarmate AI-modellen krachtiger zijn geworden, is de kans dat deze modellen worden misbruikt groter geworden, evenals de roep om veiligheidsvoorzieningen die dergelijk misbruik kunnen voorkomen. AI-bedrijven moeten nu een delicaat koord bewandelen tussen het respecteren van de privacy van hun zakelijke klanten en het in de gaten houden van het gebruik op mogelijke problemen.
OpenAI zag een kans om zijn rivaal Anthropic een stap verder te brengen en heeft zojuist een op privacy gerichte veiligheidsaanpak aangekondigd voor het monitoren op misbruik. Het bedrijf geeft een voorproefje van een nieuwe service voor geselecteerde klanten, genaamd Private Safety Processing. Dit is een geautomatiseerd systeem dat let op mogelijk misbruik en tegelijkertijd geen gegevens van de klant bewaart.
Dit systeem druist duidelijk in tegen het onlangs aangekondigde beleid voor het bewaren van gegevens van Anthropic. Het beleid, dat sommige klanten heeft verergerd, stelt het AI-lab in staat gebruikersgegevens (al hun sessies – en de gesprekken daarin) gedurende een periode van 30 dagen te bewaren, als het gaat om ‘gedekte modellen’. Deze modellen omvatten alle modellen uit de Mythos-klasse en “toekomstige modellen met vergelijkbare mogelijkheden”, zegt het bedrijf.
Dit beleid, dat in juli werd aangekondigd, was bedoeld met het oog op de veiligheid, waardoor het laboratorium potentiële ongepastheden kon onderzoeken en analyseren. Het baart echter ernstige zorgen bij sommige bedrijven die grote hoeveelheden gevoelige gegevens verwerken en niet willen dat deze door het AI-lab worden bewaard (of geïnspecteerd).
OpenAI biedt klanten – net als de meeste andere AI-bedrijven – al een relatief niveau van privacy door zich te houden aan een beleid dat bekend staat als Zero Data Retention. ZDR gebruikt agenten binnen de OpenAI API om per sessie te controleren op misbruik. Op deze manier worden klantgegevens niet door het bedrijf bewaard, maar kunnen bedrijven nog steeds scannen op slechte activiteiten zonder dat menselijke tussenkomst nodig is. Het is vermeldenswaard dat Anthropic zich ook grotendeels aan de ZDR houdt – behalve als het gaat om ‘gedekte modellen’, zoals Fable.
OpenAI zegt dat Private Safety Processing een nieuwe technologie is die de reikwijdte van ZDR vergroot. Het beschrijft het als een vorm van veiligheidsmonitoring over de lange horizon die de input en output van meerdere gesprekken beoordeelt – niet slechts één. Ook hier wordt de monitoring uitgevoerd door een agent, die, indien geactiveerd, interacties opvangt en deze tijdens sessies analyseert op tekenen van mogelijk misbruik.
De nieuwe technologie helpt OpenAI bij het detecteren van kwaadaardig gebruik van AI dat plaatsvindt gedurende meerdere sessies, vertelde een woordvoerder aan TechCrunch. Een slechte actor (hypothetisch iemand die malware probeert te ontwikkelen voor een cyberaanval) kan zijn verzoeken verspreiden om detectie te voorkomen. Private Safety Processing kan die meerdere gesprekken analyseren op tekenen van misbruik zonder menselijke beoordeling van de gesprekken van een gebruiker.
In het geval dat het systeem wordt geactiveerd, kan het een “eng gedefinieerd signaal” naar OpenAI sturen dat waarschuwt voor een specifiek type activiteit, zegt het bedrijf. Op basis van dat signaal kan OpenAI vervolgens beslissen of “handhaving noodzakelijk is”, aldus het rapport. Als dat zo is, zal OpenAI contact opnemen met de klant voor meer context of om met hem samen te werken aan de kwestie en een klant kan er naar eigen goeddunken voor kiezen om gegevens met OpenAI te delen, aldus de woordvoerder.
Anthropic merkt daarentegen op dat menselijke beoordeling van klantgegevens kan plaatsvinden, maar alleen “via een gecontroleerd toegangspad” waarbij “een kleine groep goedgekeurde reviewers” betrokken is. Elk van deze beoordelingssessies wordt “opgenomen in een fraudebestendig logboek dat recensenten niet kunnen onderdrukken of wijzigen”, zegt het bedrijf.
De zakelijke concurrentie tussen OpenAI en Anthropic is momenteel gespannen, waarbij beide bedrijven op zoek zijn naar elke mogelijkheid om een voordeel ten opzichte van de ander te behalen. Uit een recent rapport bleek dat het tweede kwartaal van OpenAI langzamer groeide dan Anthropic. De jaarlijkse omzet van Anthropic bedraagt nu naar verluidt $65 miljard. Antropische investeerders hebben gezegd dat het voor $2 biljoen naar de beurs zou kunnen gaan, terwijl OpenAI ook aan zijn beursgang werkt.
OpenAI zag een kans om zijn rivaal Anthropic een stap verder te brengen en heeft zojuist een op privacy gerichte veiligheidsaanpak aangekondigd voor het monitoren op misbruik. Het bedrijf geeft een voorproefje van een nieuwe service voor geselecteerde klanten, genaamd Private Safety Processing. Dit is een geautomatiseerd systeem dat let op mogelijk misbruik en tegelijkertijd geen gegevens van de klant bewaart.
Dit systeem druist duidelijk in tegen het onlangs aangekondigde beleid voor het bewaren van gegevens van Anthropic. Het beleid, dat sommige klanten heeft verergerd, stelt het AI-lab in staat gebruikersgegevens (al hun sessies – en de gesprekken daarin) gedurende een periode van 30 dagen te bewaren, als het gaat om ‘gedekte modellen’. Deze modellen omvatten alle modellen uit de Mythos-klasse en “toekomstige modellen met vergelijkbare mogelijkheden”, zegt het bedrijf.
Dit beleid, dat in juli werd aangekondigd, was bedoeld met het oog op de veiligheid, waardoor het laboratorium potentiële ongepastheden kon onderzoeken en analyseren. Het baart echter ernstige zorgen bij sommige bedrijven die grote hoeveelheden gevoelige gegevens verwerken en niet willen dat deze door het AI-lab worden bewaard (of geïnspecteerd).
OpenAI biedt klanten – net als de meeste andere AI-bedrijven – al een relatief niveau van privacy door zich te houden aan een beleid dat bekend staat als Zero Data Retention. ZDR gebruikt agenten binnen de OpenAI API om per sessie te controleren op misbruik. Op deze manier worden klantgegevens niet door het bedrijf bewaard, maar kunnen bedrijven nog steeds scannen op slechte activiteiten zonder dat menselijke tussenkomst nodig is. Het is vermeldenswaard dat Anthropic zich ook grotendeels aan de ZDR houdt – behalve als het gaat om ‘gedekte modellen’, zoals Fable.
OpenAI zegt dat Private Safety Processing een nieuwe technologie is die de reikwijdte van ZDR vergroot. Het beschrijft het als een vorm van veiligheidsmonitoring over de lange horizon die de input en output van meerdere gesprekken beoordeelt – niet slechts één. Ook hier wordt de monitoring uitgevoerd door een agent, die, indien geactiveerd, interacties opvangt en deze tijdens sessies analyseert op tekenen van mogelijk misbruik.
De nieuwe technologie helpt OpenAI bij het detecteren van kwaadaardig gebruik van AI dat plaatsvindt gedurende meerdere sessies, vertelde een woordvoerder aan TechCrunch. Een slechte actor (hypothetisch iemand die malware probeert te ontwikkelen voor een cyberaanval) kan zijn verzoeken verspreiden om detectie te voorkomen. Private Safety Processing kan die meerdere gesprekken analyseren op tekenen van misbruik zonder menselijke beoordeling van de gesprekken van een gebruiker.
In het geval dat het systeem wordt geactiveerd, kan het een “eng gedefinieerd signaal” naar OpenAI sturen dat waarschuwt voor een specifiek type activiteit, zegt het bedrijf. Op basis van dat signaal kan OpenAI vervolgens beslissen of “handhaving noodzakelijk is”, aldus het rapport. Als dat zo is, zal OpenAI contact opnemen met de klant voor meer context of om met hem samen te werken aan de kwestie en een klant kan er naar eigen goeddunken voor kiezen om gegevens met OpenAI te delen, aldus de woordvoerder.
Anthropic merkt daarentegen op dat menselijke beoordeling van klantgegevens kan plaatsvinden, maar alleen “via een gecontroleerd toegangspad” waarbij “een kleine groep goedgekeurde reviewers” betrokken is. Elk van deze beoordelingssessies wordt “opgenomen in een fraudebestendig logboek dat recensenten niet kunnen onderdrukken of wijzigen”, zegt het bedrijf.
De zakelijke concurrentie tussen OpenAI en Anthropic is momenteel gespannen, waarbij beide bedrijven op zoek zijn naar elke mogelijkheid om een voordeel ten opzichte van de ander te behalen. Uit een recent rapport bleek dat het tweede kwartaal van OpenAI langzamer groeide dan Anthropic. De jaarlijkse omzet van Anthropic bedraagt nu naar verluidt $65 miljard. Antropische investeerders hebben gezegd dat het voor $2 biljoen naar de beurs zou kunnen gaan, terwijl OpenAI ook aan zijn beursgang werkt.