Default
Door Remote - 04 Jul 2026
In het kort
Andy Konwinski, medeoprichter van Databricks en Perplexity AI, betoogde deze week dat het concentreren van AI-macht op zichzelf een veiligheidsrisico is.
Het essay volgde op Open Frontier, een werkbijeenkomst van ongeveer honderd onderzoekers in San Francisco op 30 juni.
Turing Award-winnaar Yann LeCun reageerde rechtstreeks op X en vergeleek het hedendaagse AI-moment in een gesloten laboratorium met "middeleeuws obscurantisme, vergelijkbaar met het Ottomaanse rijk dat het gebruik van de drukpers gedurende 200 jaar verbiedt."
Perplexity AI en Databricks mede-oprichter Andy Konwinski denkt dat het AI-veiligheidsgesprek een probleem heeft: het wordt gebruikt om macht te concentreren, niet om schade te voorkomen. Eerder deze week publiceerde hij een essay waarin hij zijn standpunt bepleitte, met Anthropic als kroongetuige.
De zaak die hij opbouwt, begint met een beslissing die Anthropic binnen 48 uur heeft teruggedraaid. Toen Anthropic Claude Fable 5 op 9 juni lanceerde, onthulde een paragraaf verborgen in de 319 pagina's tellende systeemkaart dat het model in stilte zijn eigen reacties zou degraderen voor iedereen waarvan het verdacht werd een concurrerende AI te trainen.
Onderzoekers hebben het gevonden. Het internet pakte het niet goed op.
Anthropic liep terug, maar voor Konwinski maakt dit geen verschil bij het analyseren van het grotere geheel. "Het probleem is niet dat Anthropic een slechte beslissing heeft genomen", schreef hij. "Het probleem is dat ze ervan uitgingen dat het hun eigen beslissing was."
Zijn essay, getiteld ‘Concentratie van macht in AI is een risico, geen oplossing’, volgde op Open Frontier, een werkbijeenkomst die hij op 30 juni bijeenriep via zijn non-profit Laude Institute in het Exploratorium in San Francisco. Ongeveer honderd onderzoekers kwamen opdagen.
https://t.co/9CPlzLzhs8
— Andy Konwinski (@andykonwinski) 2 juli 2026
UC Berkeley-decaan Jennifer Chayes, hoofd van het College of Computing, Data Science, and Society, vertelde een financieringspanel dat Berkeley-onderzoekers “allemaal voortbouwen op Chinese modellen omdat we geen westers open frontier-model hebben” – en dat de veiligheidsboodschappen van OpenAI en Anthropic voorafgaand aan hun beursintroductie neerkwamen op een “zeer effectieve angstcampagne.”
Konwinski's argument is dat het centraliseren van toegang de risico's niet neutraliseert; het creëert een andere. AI is een fundamentele infrastructuur – in dezelfde categorie als spoorwegen, elektriciteit en internet. Deze technologieën reorganiseerden de samenleving rond degene die de onderliggende laag controleerde. Hetzelfde komt voor AI. Zijn alternatief: een onderzoekscommons met computer op grensschaal waarmee toponderzoekers de grens kunnen bereiken zonder dat daarvoor toestemming van een privélaboratorium nodig is.
LeCun: Het is het Ottomaanse rijk dat de drukpers verbiedt Yann LeCun, de voormalige hoofdwetenschapper van Meta, antwoordde zonder enige dubbelzinnigheid op Konwinski's essay over X. “Ik verspreid al jaren een soortgelijke boodschap”, antwoordde hij op de post van Konwinski. “De concentratie van macht in AI en het verlangen naar controle is veruit het grootste gevaar van AI.”
Precies. Ik verspreid al jaren een soortgelijke boodschap.
De concentratie van macht in AI en het verlangen naar controle is veruit het grootste gevaar van AI. Het zou ertoe kunnen leiden dat een paar particuliere bedrijven en/of landen de controle krijgen over de toegang tot informatie, de toegang tot...
— Yann LeCun (@ylecun) 3 juli 2026
Hij had ook een historische vergelijking klaar. “Het is een soort middeleeuws obscurantisme, vergelijkbaar met het Ottomaanse rijk dat het gebruik van de drukpers tweehonderd jaar lang verbiedt, deels om de controle over het dogma te behouden, maar ook om het bedrijf van de kalligrafen en schriftgeleerden te beschermen”, schreef LeCun.
LeCun's voorspelling voor waar dit eindigt: "Infrastructuur wil open zijn. Fundamentele modellen worden een infrastructuur en zullen onvermijdelijk gecommoditiseerd worden. Op de lange termijn zit het geld in de applicatielaag."
LeCun verliet Meta eind 2025 en lanceerde in maart 2026 AMI Labs in Parijs met $ 1,03 miljard aan startfinanciering - zijn eigen antwoord op de vraag. Het bedrijf draait op wereldmodellen en zijn JEPA-architectuur, is van plan zijn onderzoek open source te maken en verwacht de komende jaren geen commercieel product.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!
Andy Konwinski, medeoprichter van Databricks en Perplexity AI, betoogde deze week dat het concentreren van AI-macht op zichzelf een veiligheidsrisico is.
Het essay volgde op Open Frontier, een werkbijeenkomst van ongeveer honderd onderzoekers in San Francisco op 30 juni.
Turing Award-winnaar Yann LeCun reageerde rechtstreeks op X en vergeleek het hedendaagse AI-moment in een gesloten laboratorium met "middeleeuws obscurantisme, vergelijkbaar met het Ottomaanse rijk dat het gebruik van de drukpers gedurende 200 jaar verbiedt."
Perplexity AI en Databricks mede-oprichter Andy Konwinski denkt dat het AI-veiligheidsgesprek een probleem heeft: het wordt gebruikt om macht te concentreren, niet om schade te voorkomen. Eerder deze week publiceerde hij een essay waarin hij zijn standpunt bepleitte, met Anthropic als kroongetuige.
De zaak die hij opbouwt, begint met een beslissing die Anthropic binnen 48 uur heeft teruggedraaid. Toen Anthropic Claude Fable 5 op 9 juni lanceerde, onthulde een paragraaf verborgen in de 319 pagina's tellende systeemkaart dat het model in stilte zijn eigen reacties zou degraderen voor iedereen waarvan het verdacht werd een concurrerende AI te trainen.
Onderzoekers hebben het gevonden. Het internet pakte het niet goed op.
Anthropic liep terug, maar voor Konwinski maakt dit geen verschil bij het analyseren van het grotere geheel. "Het probleem is niet dat Anthropic een slechte beslissing heeft genomen", schreef hij. "Het probleem is dat ze ervan uitgingen dat het hun eigen beslissing was."
Zijn essay, getiteld ‘Concentratie van macht in AI is een risico, geen oplossing’, volgde op Open Frontier, een werkbijeenkomst die hij op 30 juni bijeenriep via zijn non-profit Laude Institute in het Exploratorium in San Francisco. Ongeveer honderd onderzoekers kwamen opdagen.
https://t.co/9CPlzLzhs8
— Andy Konwinski (@andykonwinski) 2 juli 2026
UC Berkeley-decaan Jennifer Chayes, hoofd van het College of Computing, Data Science, and Society, vertelde een financieringspanel dat Berkeley-onderzoekers “allemaal voortbouwen op Chinese modellen omdat we geen westers open frontier-model hebben” – en dat de veiligheidsboodschappen van OpenAI en Anthropic voorafgaand aan hun beursintroductie neerkwamen op een “zeer effectieve angstcampagne.”
Konwinski's argument is dat het centraliseren van toegang de risico's niet neutraliseert; het creëert een andere. AI is een fundamentele infrastructuur – in dezelfde categorie als spoorwegen, elektriciteit en internet. Deze technologieën reorganiseerden de samenleving rond degene die de onderliggende laag controleerde. Hetzelfde komt voor AI. Zijn alternatief: een onderzoekscommons met computer op grensschaal waarmee toponderzoekers de grens kunnen bereiken zonder dat daarvoor toestemming van een privélaboratorium nodig is.
LeCun: Het is het Ottomaanse rijk dat de drukpers verbiedt Yann LeCun, de voormalige hoofdwetenschapper van Meta, antwoordde zonder enige dubbelzinnigheid op Konwinski's essay over X. “Ik verspreid al jaren een soortgelijke boodschap”, antwoordde hij op de post van Konwinski. “De concentratie van macht in AI en het verlangen naar controle is veruit het grootste gevaar van AI.”
Precies. Ik verspreid al jaren een soortgelijke boodschap.
De concentratie van macht in AI en het verlangen naar controle is veruit het grootste gevaar van AI. Het zou ertoe kunnen leiden dat een paar particuliere bedrijven en/of landen de controle krijgen over de toegang tot informatie, de toegang tot...
— Yann LeCun (@ylecun) 3 juli 2026
Hij had ook een historische vergelijking klaar. “Het is een soort middeleeuws obscurantisme, vergelijkbaar met het Ottomaanse rijk dat het gebruik van de drukpers tweehonderd jaar lang verbiedt, deels om de controle over het dogma te behouden, maar ook om het bedrijf van de kalligrafen en schriftgeleerden te beschermen”, schreef LeCun.
LeCun's voorspelling voor waar dit eindigt: "Infrastructuur wil open zijn. Fundamentele modellen worden een infrastructuur en zullen onvermijdelijk gecommoditiseerd worden. Op de lange termijn zit het geld in de applicatielaag."
LeCun verliet Meta eind 2025 en lanceerde in maart 2026 AMI Labs in Parijs met $ 1,03 miljard aan startfinanciering - zijn eigen antwoord op de vraag. Het bedrijf draait op wereldmodellen en zijn JEPA-architectuur, is van plan zijn onderzoek open source te maken en verwacht de komende jaren geen commercieel product.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!