Default
Door Remote - 20 Sep 2026
Anthropic zei dat het Accenture heeft gekozen als zijn eerste embedded evaluator om het tempo van de AI-ontwikkeling te helpen vertragen, zoals vorige week voorgesteld door CEO Dario Amodei.
Amodei publiceerde op 12 september een voorstel in drie stappen om de ontwikkeling van AI te vertragen en waarborgen te bieden te midden van waarschuwingen voor een potentieel voor catastrofale schade in de nasleep van een snelle, ongecontroleerde ontwikkeling.
OpenAI-CEO Sam Altman en SpaceX-CEO Elon Musk reageerden positief op het voorstel van Amodei, hoewel Nvidia-CEO Jensen Huang dat niet deed, met het argument dat dergelijke regulering niet nodig was.
Toch schreef Amodei in zijn voorstel dat "AI drastisch sneller is vooruitgegaan, voornamelijk gedreven door het groeiende vermogen van AI om de volgende generatie AI te bouwen. Deze dynamiek wordt recursieve zelfverbetering genoemd", en "als er niets aan wordt gedaan, zou het ons vermogen om deze systemen te begrijpen en te controleren kunnen overtreffen."
Gerelateerd: Antropisch hoofd dringt aan op vertraging van de AI-ontwikkeling naar een veiliger tempo
De eerste stap in het voorstel van Amodei is het hebben van onafhankelijke beoordelaars met toegang als werknemers, waar Anthropic zich al eenzijdig aan had verbonden, schreef Amodei.
Anthropic heeft vrijdag een stap aangekondigd in de richting van het nakomen van deze belofte door samen te werken met Accenture en zijn AI-bedrijfsfaculteit bij het “evalueren en red-teamen van modellen, het uitvoeren van afstemmingsbeoordelingen en het testen van modelwaarborgen.”
Details over hoe dit zal gebeuren worden nog uitgewerkt, omdat embedded evaluatie nieuw is, aldus het bedrijf.
Anthropic en Accenture verwachten elk de komende vijf jaar minstens $1 miljard in het project te investeren, aldus de aankondiging.
Anthropic zal het werk direct financieren in tijden van urgentie Anthropic merkte op dat er ook geen bestaand systeem bestaat voor de financiering van onafhankelijke evaluatie, dus de financiering op de lange termijn zou uit gezamenlijke of overheidsbronnen moeten komen, hoewel Anthropic, gezien de urgentie van het werk, het werk van Accenture rechtstreeks zal financieren.
Het partnerschap is niet-exclusief en Anthropic verwacht de komende weken andere beoordelaars aan te kondigen waarmee het ook zal samenwerken.
De faculteit van Accenture is expert in het testen en evalueren van modellen voor enkele van ‘s werelds toonaangevende AI-laboratoria en het bouwen van complexe AI-systemen die door hun ontwerp veilig en ethisch zijn, zei het bedrijf vrijdag.
“Embedded evaluatie is een opkomend gebied, en we kijken ernaar uit om samen te werken met Anthropic om de ontwikkeling van embedded evaluatoren te helpen versnellen, die wij als een belangrijk onderdeel van het toekomstige veiligheidslandschap zien”, aldus Julie Sweet, voorzitter en CEO van Accenture.
Magazine: Waarom vragen de grootste bedrijven op het gebied van AI plotseling om het rustiger aan te doen?