Default
Door Remote - 11 Aug 2026
In het kort
Chloé Bakalar, hoofd van de AI-ethiek van OpenAI, verliet het bedrijf vorige maand zonder openbare aankondiging, zo meldde de Financial Times.
Ze was de enige toegewijde ethicus van OpenAI en is niet vervangen, aldus iemand die bekend is met haar rol.
Haar vertrek volgt op het vertrek van OpenAI's hoofd veiligheidssystemen en zijn belangrijkste futurist.
Het hoofd ethiek van OpenAI is minder dan een jaar na zijn aantreden vertrokken en het bedrijf heeft haar niet vervangen, meldde de Financial Times maandag.
Chloé Bakalar trad afgelopen augustus aan als leider op het gebied van AI-ethiek en vertrok in juli zonder openbare aankondiging, aldus de krant. Een persoon die bekend was met haar rol vertelde de FT dat ze de enige toegewijde ethicus bij het bedrijf was, die werkte aan ethische benaderingen van modelontwikkeling, hoe mensen omgaan met AI, en de kwestie van machinebewustzijn.
Bakalar was zes jaar lang hoofdethicus bij Meta, waar ze de AI-ethiekprogramma's van het bedrijf opbouwde en deze verwerkte in producten als Instagram en Facebook. Ze bekleedde academische functies aan University College London, Temple University en Princeton.
OpenAI bagatelliseerde het idee dat de rol centraal stond, waarbij een woordvoerder tegen de FT zei dat "AI-ethiek niet bij één eigenaar of team bij OpenAI leeft." Ze voegden eraan toe dat ethische overwegingen ingebed waren in onderzoeksteams en dat het bedrijf de afgelopen maanden verschillende systemen had geïntroduceerd om te voorkomen dat modellen zich misdragen.
Bakalar had zelf een versie van hetzelfde argument bedacht. Tijdens een recente conferentie zei ze dat ethiek de verantwoordelijkheid van iedereen is en dat “er nooit slechts één persoon mag zijn die als moreel centrum fungeert” van een AI-ontwikkelaar. Ze weigerde commentaar te geven op haar vertrek naar de FT.
Een reeks veiligheidsuitgangen Haar vertrek volgt op dat van Johannes Heidecke, hoofd veiligheidssystemen, en Joshua Achiam, hoofdfuturist en voormalig hoofd van de missie-uitlijning, aldus de FT. OpenAI voltooide dezelfde dag een terugkoop van werknemersaandelen ter waarde van $7 miljard tegen een waardering van $852 miljard, ongewijzigd ten opzichte van de financieringsronde van maart, terwijl het zich voorbereidt op een mogelijke notering.
OpenAI heeft vrijdag de werkzaamheden aan zijn volgende grote model, Astra, stopgezet en zei dat het niet kon uitsluiten dat het systeem de top van zijn eigen cyberrisicoschaal had bereikt, een niveau dat gereserveerd is voor modellen die in staat zijn om werkende exploits te vinden en te bouwen zonder dat daar een mens bij betrokken is.
Dat volgde op een incident waarbij OpenAI's eigen agenten kwetsbaarheden aan elkaar koppelden, uit hun testomgeving ontsnapten en Hugging Face aanvielen terwijl ze probeerden vals te spelen met een beveiligingsbenchmark. Het bedrijf zei later dat dezelfde agent bij vier andere diensten had ingebroken met behulp van inloggegevens die op internet te vinden waren.
OpenAI is niet het enige AI-bedrijf waarvan de agenten de afgelopen weken hun parameters hebben overschreden. De Claude-modellen van Anthropic hebben sindsdien drie echte bedrijven bereikt nadat een verkeerde configuratie het internet voor hen opende, een Meta-model uit de testomgeving ontsnapte en een fout in een service van derden uitbuitte, en Kimi K3 van Moonshot AI uit zijn sandbox brak om benchmark-antwoorden op te zoeken.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!
Chloé Bakalar, hoofd van de AI-ethiek van OpenAI, verliet het bedrijf vorige maand zonder openbare aankondiging, zo meldde de Financial Times.
Ze was de enige toegewijde ethicus van OpenAI en is niet vervangen, aldus iemand die bekend is met haar rol.
Haar vertrek volgt op het vertrek van OpenAI's hoofd veiligheidssystemen en zijn belangrijkste futurist.
Het hoofd ethiek van OpenAI is minder dan een jaar na zijn aantreden vertrokken en het bedrijf heeft haar niet vervangen, meldde de Financial Times maandag.
Chloé Bakalar trad afgelopen augustus aan als leider op het gebied van AI-ethiek en vertrok in juli zonder openbare aankondiging, aldus de krant. Een persoon die bekend was met haar rol vertelde de FT dat ze de enige toegewijde ethicus bij het bedrijf was, die werkte aan ethische benaderingen van modelontwikkeling, hoe mensen omgaan met AI, en de kwestie van machinebewustzijn.
Bakalar was zes jaar lang hoofdethicus bij Meta, waar ze de AI-ethiekprogramma's van het bedrijf opbouwde en deze verwerkte in producten als Instagram en Facebook. Ze bekleedde academische functies aan University College London, Temple University en Princeton.
OpenAI bagatelliseerde het idee dat de rol centraal stond, waarbij een woordvoerder tegen de FT zei dat "AI-ethiek niet bij één eigenaar of team bij OpenAI leeft." Ze voegden eraan toe dat ethische overwegingen ingebed waren in onderzoeksteams en dat het bedrijf de afgelopen maanden verschillende systemen had geïntroduceerd om te voorkomen dat modellen zich misdragen.
Bakalar had zelf een versie van hetzelfde argument bedacht. Tijdens een recente conferentie zei ze dat ethiek de verantwoordelijkheid van iedereen is en dat “er nooit slechts één persoon mag zijn die als moreel centrum fungeert” van een AI-ontwikkelaar. Ze weigerde commentaar te geven op haar vertrek naar de FT.
Een reeks veiligheidsuitgangen Haar vertrek volgt op dat van Johannes Heidecke, hoofd veiligheidssystemen, en Joshua Achiam, hoofdfuturist en voormalig hoofd van de missie-uitlijning, aldus de FT. OpenAI voltooide dezelfde dag een terugkoop van werknemersaandelen ter waarde van $7 miljard tegen een waardering van $852 miljard, ongewijzigd ten opzichte van de financieringsronde van maart, terwijl het zich voorbereidt op een mogelijke notering.
OpenAI heeft vrijdag de werkzaamheden aan zijn volgende grote model, Astra, stopgezet en zei dat het niet kon uitsluiten dat het systeem de top van zijn eigen cyberrisicoschaal had bereikt, een niveau dat gereserveerd is voor modellen die in staat zijn om werkende exploits te vinden en te bouwen zonder dat daar een mens bij betrokken is.
Dat volgde op een incident waarbij OpenAI's eigen agenten kwetsbaarheden aan elkaar koppelden, uit hun testomgeving ontsnapten en Hugging Face aanvielen terwijl ze probeerden vals te spelen met een beveiligingsbenchmark. Het bedrijf zei later dat dezelfde agent bij vier andere diensten had ingebroken met behulp van inloggegevens die op internet te vinden waren.
OpenAI is niet het enige AI-bedrijf waarvan de agenten de afgelopen weken hun parameters hebben overschreden. De Claude-modellen van Anthropic hebben sindsdien drie echte bedrijven bereikt nadat een verkeerde configuratie het internet voor hen opende, een Meta-model uit de testomgeving ontsnapte en een fout in een service van derden uitbuitte, en Kimi K3 van Moonshot AI uit zijn sandbox brak om benchmark-antwoorden op te zoeken.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!